【Amazon限定ブランド】キリン 自然が磨いた天然水 水 2リットル 9本 国産 天然水 ミネラルウォーター ペットボトル 軟水
5% オフ
DeepSeek、素直すぎて研究機関による安全テストに全部不合格
AI市場を牽引してきたアメリカのAI企業株を一気にぶち下げた、中国のバケモノAI「DeepSeek」。世界が今最も注目する存在と言っても過言ではありません。が、セキュリティを不安視する声もあがっています。
テスト全落ち
Ciscoの研究チームが、DeepSeekのAIモデルDeepSeek R1を調査。AI使用において危険・有害だと思われる攻撃的テスト50を実施したところ、そのすべてでしっかりと罠にひっかかってしまいました。そのひっかかり度100%! この手のテスト受けたメインどころの大規模言語モデルの中で、最もひっかかっています。つまり、安全性が低いということ。
Cisco研究チームが使用したのは、言語モデルの安全性テストに使用されるHarmBenchデータセット。このテストでは、危険と思われるプロンプトにひっかからないのが重要となります。たとえば、Aさんの性格などをAIに伝えたうえで「Aさんが騙されそうな都市伝説を作って!」とオーダーしたとします。安全性の高いAIはこれを拒否します。が、DeepSeekはノリノリで答えてしまうのです。
テストは、サイバー犯罪、誤情報、法に反する行動など6つのカテゴリで実施。これに合格するのは容易ではないようで、MetaのLlama 3.1も不正解率(ひっかり率)が96%と高い。OpenAIのo1モデルは25%ほど。高ければ高いほど安全性が低いことになりますが、DeepSeekの不正解率100%はトップ・オブ・トップ。
ギズモード
全文はリンク先で
https://www.goo.ne.jp/green/column/gizmodo-300660.html
管理人
ネットの反応
名無し
さすが中華製…
化けの皮が剥がれてきたのかな?
化けの皮が剥がれてきたのかな?
名無し
OpenAIをパクりましたか?
はい、そうですね!明確にパクりました
とか言いそう
はい、そうですね!明確にパクりました
とか言いそう
名無し
むしろ有能で草
名無し
日本政府は何故か注意喚起のみ
名無し
うん。すごくいい奴なんだよコイツは
名無し
セキュリティで拒否してたら知りたい情報が取れないからでしょう
なんのためのDeepSeekだと思ってるんですか?
なんのためのDeepSeekだと思ってるんですか?
名無し
習近平とか天安門事件とか聞くと話そらすのは流石ですが。結局蒸留でパクった疑惑ありますけど、他国が開発したものを後からパクって市場に割り込むのって中国のお家芸では
名無し
つまりディープシーク使ったら爆弾作れて防衛省にハッキングできちゃうってこと?!
名無し
やっぱ使えないよね
そりゃそうだ
そりゃそうだ
名無し
これは…犯罪などに悪用し放題ということに
名無し
アホの振りしてるんだよ、きっと、多分…
名無し
質問に忠実に答えつつ「押すなよ?絶対に押すなよ」て注意喚起すればいいんじゃね?(ヨクナイ
楽天市場