英国大学衍生公司Mindgard：为企业筑牢AI安全防线
在当今时代，AI的应用给企业带来了两难的处境。若不实施AI应用，可能会错失生产力提升等潜在好处；但若应用不当，企业及其客户又可能面临巨大风险。而英国大学衍生的Mindgard公司，正致力于解决这一难题。
Mindgard的CEO兼CTO——彼得·加拉汉教授（Professor Peter Garraghan）指出：‘AI本质仍是软件，以往大家熟知的网络风险同样适用于AI。’但鉴于神经网络和系统具有不透明性以及内在随机行为等特点，需要一种全新的应对方式。
Mindgard所采用的方式便是针对AI的动态应用安全测试（DAST – AI），它专注于检测运行时才能发现的漏洞。这其中涉及到持续且自动化的模拟攻击（即红队测试），依据Mindgard的威胁库来模拟各类攻击场景，比如可以测试图像分类器面对对抗性输入时的鲁棒性。
Mindgard的这项技术得益于加拉汉教授的深厚背景，他作为专注于AI安全的教授与研究者，早在ChatGPT尚未出现时，就察觉到自然语言处理和图像模型可能面临新威胁，此后，随着行业快速发展，相关语言模型不断变化，威胁也随之改变，而加拉汉教授认为，凭借与兰卡斯特大学持续的紧密联系，Mindgard能够紧跟发展步伐，未来几年内，公司将自动拥有另外18位博士研究员工作成果的知识产权，这可是极为难得的优势。
虽说与科研联系紧密，但Mindgard已然是一款成熟的商业产品，确切来说，是一个SaaS平台，由联合创始人史蒂夫·斯特里特（Steve Street）担任首席运营官（COO）和首席风险官（CRO）主导运营（早期参与研究的联合创始人尼尔拉杰·苏里（Neeraj Suri）已离开公司）。
在客户群体方面，企业自然是Mindgard的主要服务对象，传统的红队测试人员和渗透测试人员也是其客户，同时，那些需要向客户展示自身做好AI风险防范的AI初创公司同样与Mindgard有合作。
从融资情况来看，2023年Mindgard完成了300万英镑的种子轮融资，如今又宣布了一轮800万美元的新融资，此轮融资由波士顿的.406 Ventures领投，大西洋桥（Atlantic Bridge）、WillowTree Investments以及现有投资者IQ Capital和Lakestar参与其中。这笔资金将助力公司‘打造团队、进行产品开发、开展研发等诸多初创公司常见的事务’，同时推动其向美国市场拓展。公司新近任命的营销副总裁、前Next DLP首席营销官弗加尔·格林（Fergal Glynn）就常驻波士顿。不过，公司仍计划将研发和工程部门留在伦敦。
目前Mindgard团队规模相对较小，仅有15人，计划到明年年底扩充至20到25人，毕竟AI安全领域‘尚未到达全盛时期’，但当AI在各处广泛部署，相应安全威胁也纷至沓来之时，Mindgard已然做好准备。正如加拉汉教授所言：‘我们创立这家公司是为世界带来积极影响，而此处的积极影响就是让人们能够安全、可靠地信任并使用AI。’
