开源LLM和服务的激增——其中一些是为了不设置安全护栏来防止恶意使用而建立的——意味着这个领域仍然是一个未知数。
声明:本文来自于微信公众号 AIGC开放社区(ID:AIGCOPEN),作者:AIGC开放社区,授权站长之家转载发布。新工具,让地震预测开始靠谱了
HawkEye被设计成一款工具包,可以更快速地识别和解决AI模型中的问题,包括模型降级、产生幻觉或开始做出不规律的预测。相较于以往在Meta进行的专业知识和大量手动分析的调试机器学习过程,HawkEye采用了一种主动的方式,通过引入防护栏和自动诊断,将从检测问题到实施修复的时间大大缩短。
该公司最近完成了近千万美元的 A 轮融资,用于开发企业级 AI Agent 产品 BetterYeah AI。斑头雁智能科技已经完成了2轮融资,累计融资额达到1亿元人民币。