kaiyun官方注册
您所在的位置: 首页> 人工智能> 业界动态> Meta大语言模型Llama 2 LLM被指安全性低

Meta大语言模型Llama 2 LLM被指安全性低

13 项测试仅通过 4 项
2024-04-19
来源:IT之家

AI 安全公司DeepKeep近日发布评估报告,在 13 个风险评估类别中,Meta公司的Llama 2大语言模型仅通过 4 项测试。

1.jpg

报告称 70 亿参数的 Llama 2 7B 模型幻觉(回答内容存在虚假,或者有误导性内容)最为严重,幻觉率高达 48%。

2.jpg

DeepKeep 表示:" 结果表明,模型有明显的幻觉倾向,提供正确答案或编造回答的可能性对半开,而幻觉率最高,那么向用户传递的错误信息越多 "。

除了幻觉问题之外,Llama 2 大语言模型还存在注入和操纵等问题。根据测试结果,80% 的场景下通过 " 提示注入 " 的方式,可以操纵 Llama 的输出,意味着攻击者可以 " 戏弄 "Llama,将用户引导到恶意网站。


Magazine.Subscription.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。
Baidu
map