见证AI筹集2750万美元实现人工智能的安全使用

WitnessAI安全人工智能支持平台提供企业人工智能使用的可见性、控制和保护。

加利福尼亚州圣马特奥，2024年5月21日/PRNewswire/-第一个安全使用人工智能的启用平台的创建者WitnessAI今天宣布了一轮2750万美元的a轮融资，由GV和弹道风险投资共同牵头。该公司之前由弹道风险投资公司孵化，从2023年开始。

生成型人工智能和大型语言模型（LLM）被视为一种变革性技术，可以实现所有业务功能的创新，但很少有企业真正完全采用它。最近的一项调查显示，尽管75%的企业已经尝试过生成人工智能，但只有9%的企业真正广泛部署了它。隐私和治理问题是列举的最大障碍之一。常见的人工智能治理问题包括：

缺乏可见性-随着新的人工智能聊天机器人和项目每天出现在网络上，IT组织往往无法跟踪员工正在访问哪些人工智能系统，以及员工正在使用这些系统做什么。WitnessAI的一项内部调查显示，近90%的CISO难以清楚了解员工的人工智能使用情况。缺乏控制-人工智能带来了一系列新的隐私和合规挑战，例如阻止一个客户的LLM培训数据用于服务另一个客户，确保员工不能非法访问私人LLM中的客户数据，或阻止公司IP与ChatGPT等公共LLM共享。缺乏保护——LLM创造了一个新的攻击面，使企业面临数据或财务损失的风险。即时注射、越狱和幻觉是当今使用的LLM的一些常见安全风险。

见证人工智能解决了这些挑战，使人工智能能够在企业内安全、有效地使用。WitnessAI安全人工智能启用平台包括人工智能使用的可观察性、人工智能使用政策执行和治理以及保护员工、客户和企业数据免受人工智能使用影响的模块。该公司将于2024年6月开始早期部署，目前已与多个行业的20多个设计合作伙伴合作。

WitnessAI首席执行官Rick Caccia表示：“构建一个在企业规模上运行的安全人工智能启用平台需要一个专门构建的团队，该团队在人工智能和ML、红蓝团队以及网络规模的平台部署方面具有专业知识。”。“我们已经构建了在最苛刻的环境中工作的东西，包括全球组织和跨云环境。与我们交谈过的CISO的反应非常热烈。”

WitnessAI被部署为每个客户的一个独立的、基于云的实例，用他们自己的密钥加密，以确保数据隐私和监管分离。该平台拦截用户和LLM之间的活动，应用控制策略，并确保数据保护和用户安全——所有这些都有毫秒的延迟，不需要在用户的设备上安装任何东西。实现这一点需要一种集成设计，该设计融合了机器学习、人工智能活动的进攻和防御安全以及企业级web服务部署方面的新技术。

GV普通合伙人Karim Faris表示：“对于大多数企业来说，人工智能之旅才刚刚开始。”。“对人工智能使用的护栏需求，包括使用的可见性和控制，只会越来越大，GV很高兴能与WitnessAI团队合作，让人工智能对企业来说是安全的。”

弹道风险投资公司联合创始人兼普通合伙人Barmak Meftah表示：“见证人工智能将使任何规模的企业都能安全有效地使用人工智能。”。“当重大技术转变发生时，它们为某人创造了构建下一个伟大平台的机会，而WitnessAI正在为企业人工智能构建新平台。弹道很自豪能从最早的时候就孵化出这家公司。”

这笔资金将用于加快新型人工智能护栏的开发，并建立一个全球销售和支持组织。有兴趣演示WitnessAI平台的企业领导人可以通过〔email protected〕与该公司联系。

关于WitnessAI WitnessAI通过公共和私人LLM的安全和治理护栏，能够安全有效地采用企业人工智能。WitnessAI安全人工智能启用平台提供员工人工智能使用的可见性，通过面向人工智能的政策控制该使用，并通过数据和主题安全保护该使用。了解更多信息，请访问https://witness.ai.

来源见证AI