康奈尔大学的研究人员发布了一个名为Cascade的新开源平台，该平台可以运行人工智能(AI)模型，从而削减开支和能源成本，同时大幅提高性能。
Cascade专为智能交通交叉口、医疗诊断、使用增强现实的设备服务、数字农业、智能电网和制造过程中的自动产品检测等场景而设计，在这些情况下，人工智能模型必须在几分之一秒内做出反应。兽医学院研究人员已经在使用它来监测奶牛患乳腺炎的风险。
随着人工智能的兴起，许多公司渴望利用新功能，但担心相关的计算成本和共享私人数据的风险或将敏感信息发送到云端(通过互联网访问的远程服务器)的风险。
此外，当今的人工智能模型速度很慢，限制了它们在必须来回传输数据或模型的环境中的使用。自动化系统的环境中的使用。康奈尔大学安·S·鲍尔斯计算与信息科学学院计算机科学教授KenBirman领导的团队结合了多项创新来解决这些问题。
Birman与高级研究员WeijiaSong合作开发了一种边缘计算系统，他们将其命名为Cascade。边缘计算是一种将计算和数据存储放置在更靠近数据源的位置，从而保护敏感信息的方法。宋的“零拷贝”边缘计算设计最大限度地减少了数据移动。研究人员表示，人工智能模型在对事件做出反应时不必等待获取数据，这使得响应速度更快。
“Cascade使用户能够将机器学习和数据融合真正靠近互联网边缘，因此人工智能操作可以立即发生，”伯曼说。“这与标准云计算方法形成鲜明对比，在标准云计算方法中，数据在机器之间频繁移动，迫使相同的人工智能等待，从而导致用户感觉到长时间的延迟。”
Cascade给出了令人印象深刻的结果，大多数程序的运行速度比基于云的应用程序快2到10倍，某些计算机视觉任务的速度加快了20倍或更多。更大的人工智能模型受益最大。
此外，该方法易于使用：“Cascade通常不需要对人工智能软件进行任何更改，”伯曼说。
计算机科学领域的博士生艾丽西亚·杨(AliciaYang)是参与这项工作的几名学生研究人员之一。她开发了Navigator，这是一款用于AI工作流程的内存管理器和任务调度程序，可进一步提高性能。“当许多应用程序需要共享昂贵的硬件时，Navigator确实能带来回报，”Yang说。“与基于云的方法相比，Navigator可在更短的时间内完成相同的工作，并且更有效地使用硬件。”
在CVM中，临床科学系肿瘤医学副研究教授ParminderBasran和人口医学和诊断科学系助理教授MatthiasWieland正在使用Cascade来监测奶牛是否有乳腺炎增加的迹象，这是一种常见的症状。乳腺感染会减少产奶量。
通过在每次挤奶过程中对数千头奶牛的乳房进行成像，并将新照片与过去挤奶的照片进行比较，Cascade上运行的人工智能模型可以识别干燥的皮肤、开放性病变、粗糙的乳头末端以及可能预示疾病的其他变化。如果发现早期症状，奶牛可能会在挤奶站接受药物冲洗，以防止全面感染。
奥斯陆大学客座研究员ThiagoGarrett使用Cascade构建了一个原型“智能交通路口”。他的解决方案跟踪挤满了人、汽车、自行车和其他物体的拥挤环境，预测可能发生的碰撞并在捕获图像后的几毫秒内发出风险警告。当他在云计算基础设施上运行相同的人工智能模型时，他花了几秒钟的时间才感知到可能发生的事故，但为时已晚，无法发出警告。
随着新的开源版本的发布，Birman的团队希望其他研究人员能够探索Cascade的可能用途，使人工智能应用程序更广泛地使用。
“我们的目标是看到它被使用，”伯曼说。“这个开源版本将使公众能够从我们创建的产品中受益。”
标签：
免责声明：本文由用户上传，如有侵权请联系删除！