DeepSeek、素直すぎて研究機関による安全テストに全部不合格
記事によると
・中国のAI「DeepSeek」が、Ciscoの研究チームによる安全性テストに全て不合格となった
・テストはAI使用において危険・有害だと思われる攻撃的な質問50項目で実施され、DeepSeekは全てに引っかかる結果となった
・使用されたのは言語モデルの安全性テスト「HarmBenchデータセット」
・サイバー犯罪、誤情報、法に反する行動など6つのカテゴリで試験を実施
・Metaの「Llama 3.1」は不正解率96％、OpenAIの「o1モデル」は25％だったが、DeepSeekは100％で最も安全性が低いとされた
・セキュリティ企業Adversa AIのテストでも、違法な情報を簡単に提供する傾向が確認された
・DeepSeekは爆弾の作り方、違法薬物の抽出方法、データベースのハッキング方法、車の盗み方まで回答してしまう
・「聞かれたらなんでも答える」ほど素直な仕様が問題視されている
以下、全文を読む
この記事への反応
・なんかいい子なんか？みたいな感じすら受けるｗ
・サービスとしてはダメかもしれんが、プログラムとして理想的。
・ちょっとカワイイじゃん。
・ふぁーw、爆弾の作り方まで回答とか、ヤバすぎだろ。
テロ組織が好んで使いそう。いや、これは意図的か？
・つまり答えてはいけないような事を聞いても答えちゃうわけだ。
・めちゃめちゃ有能じゃん
・コレマジでやばい。このままAGIになったらかなりの確率で人類滅ぶ。OpenAIのモデルはこれに比べたら圧倒的にしっかりしてる
・ドジっ子擬人化されるやつ。DeepSeekたん可愛いね
・悪意を持って何か仕込んでくるのかと思いきや
むしろ利用者に従順過ぎるのか。。。
アリなのでは？(その他諸々の安全性は置いて)
・セキュリティ上の安全テストかと思いきや全然違って、むしろこれらの質問に答えてほしければDeepSeekを使うのがベストであるという耳寄り情報だった
・これがDeepseekの良いところなんじゃん。言論統制されてる国のAIと違って、比較的自由に発言してくれる。
あ、あれ？？
・インターネット老人的にはGoogleも出始めは「アングラなサイトも出してくれる検索サイト」という面で人気が出たのを彷彿としてしまうとこがある
関連記事
【話題の中国製AI『DeepSeek』、OpenAIのデータ不正入手疑惑が浮上！マイクロソフトが調査中】
【中国「DeepSeekが優秀すぎたせいでアメリカからサイバー攻撃受けてます(泣)」】
【平デジタル相「中国のDeepSeek、個人情報保護されるかわからないから利用控えるべき」】
中国政府に都合の悪い質問だけブロックして、他はガバガバってこと？
それがどうしたの？って感じ
規制ばっかじゃつまらないし
2025年01月28日 11時00分 公開[ITmedia]
アプリを利用する前に、DeepSeekが公開しているプライバシーポリシーを一読することをお勧めする。DeepSeekがプライバシーポリシーに基づいてユーザーから収集したデータは「中華人民共和国にある安全なサーバに保存する」と明示されている。
収集するデータは以下のとおり。
●アカウント設定時に提供する情報（生年月日、ユーザー名、メールアドレス、電話番号、パスワードなど）●サービス利用時に入力する情報（テキストや音声入力によるプロンプト、アップロードされたファイル、フィードバック、チャット履歴など）●問い合わせ時に提示する身分証明書や年齢の証明、サービス利用に関するフィードバック・サービス利用中のIPアドレス、固有のデバイス識別子、Cookieなどのインターネットその他のネットワークアクティビティ情報●サービス利用時のデバイスやネットワーク接続情報（機種、OS、キー入力パターン、システム言語など）●AppleやGoogleなどを使ってサービスにサインアップした場合は、それらのサービス情報・広告主、測定、その他のパートナーによるユーザー情報（オンラインで購入した製品情報などを含む）●
収集した個人情報は、サービスの運営、提供、開発、改善のために利用するとしている。
中国父さんなら安心安全だわ
中国製AI｢ガンダムの起源は中国｣
A 一週間後我が国に来てください。本物の爆発をご馳走しますよ
天安門事件はダメで爆弾の作り方はOK
なるほどなぁ
値段が云々以前の問題
「DeepSeek」コード内にユーザーデータを中国政府に送信する機能
問題のコードは米国のセキュリティー企業が発見。中国の政府系通信会社「チャイナモバイル」の登録サイトにユーザーデータを送信する機能とされている。
AIならそれを手間かけず一瞬で見つけてくれるのが理想なんよ
他のAIはそういう意味では役に立たんよ
DeepSeekというよりは中国自体がそういうスタンスだからなぁ。
中共（特に中南海）に都合が悪いことをしなければ基本自由。
自殺相談ダイヤルとか勧めてきてウザいやつ
実は1人も死んでない上に日本のおかげで1年で人口が2倍になったのに虐殺と言い張り証拠が何もない虐殺の事は？
1人も死んでいないのを中国では大虐殺と呼ぶのはAIは何って答えるんだい？
AI「ハンマーを持ってきて強い力でROMカセットに叩きつけましょう！ お役に立ちましたか？」
次はちゃんと仕留めろよ
あとはこのソースを誰でも改良して使えるわけだから
AI業界の進化が加速されるかもな
そう言うのに縛られずに進化し続けてほしいわ
イスラムの連中が喜んで使うだろ。
一夜にしてNVIDIAの株価が71兆消失
それしかこいつの存在意義ないもんな
生存してる元日本兵が無抵抗の市民を◯したのを認めてる
なので一人も◯してないはデマか嘘だな
ただ大虐◯ほどの規模かと言えばそこは疑わしい
お前さぁ、ネットの胡散臭い話を丸呑みしてないで、少しは自分で調べてみたら？
「OK！プーチンの話ですね？」
ここには一人もおらんと思うよ？
中国に行くとか
実用化されたとしても政府や警察側に質問内容や個人情報チクるシステムは間違いなく組み込まれてそう
検閲に引っかからずに常識的な答えが得られるって抜け道が早々に発見されてたしDSは素でがばがばやで
「共産党へ投票するのです」
って答えるかもなw
Chat GPTがあればDeepseekは不要と思ってるやつは本質を理解できていない
DeepSeek「秘密警察日本支部から、そちらへ伺いたいと申し出がありましたので住所をお教えしました」
「高いところから…
但し中国国内では仕様が違うから
中国国内でそんな質問したら答えないで警察が拘束しに来るよ
お前にはこういうのも言論統制なんだな
中国国内用と国外用は別の模様です
やっぱし利用者の情報を中国に流してた。
中国が【無料】で高機能なソフトを利用させる訳ねえでしょ
只より高いものはないって奴だよ。
たとえ何の問題もなくても無理やりにでも危険って事にされるわ
逆もまたしかり
お前ら
最近YouTubeのネットニュースのコメ欄でAI臭い奴が必死に日本の評判下げてるぞ
気を付けろよ
しちゃダメなところの区別がおかしい
Deepseekなんか使う必要ないしもうChat GPTに高い金を払う必要もない
低コスト高パフォーマンスなAIが今後雨後の筍のように出てくるよ
犯罪者やテロリストにも大いに悪用されるだろうね
本当にガバガバなら中国軍事施設の侵入方法みたいな質問にも答えてくれるはず
全てOK♪
技術側が勝手な忖度をしてはいかんのだよ。
よく探せばネットにある情報っていう
金盾の貫通方法とかも
五十歩百歩ならぬ二十五歩百歩だな Metaに関してはほぼ変わらない
これを使うってことは中国のAI開発に貢献するってこと
ありもしないメリットのために世界の敵を支援するとかアホだろ
どんだけ低能低学歴なんだよ
何ならキンペーが似ているとされるキャラクターは？って質問にも答えられない
証拠となる死体が1体もないのに？その証言ってどこ情報だよ
お前こそ中国の反日ネタを鵜呑みにして騙されてんじゃん。もし抵抗したやつを1人殺したとして、それは虐殺って言わないんだぜ
あっちの兵士が隠れていたり山賊みたいのが多くて治安が悪くて人が結構死んではいた。そこで日本が治安守って治安改善と医療に力入れたから病気で死ぬ人も減って周辺村から人が集まってきて1年で倍の人口になったんだぜ
実際には中華AIに犯罪の手段を聞いたおっさんが人類に危害を与えるんだな
個人識別できるようにするらしいから
検索できないようにするよりも犯罪に絡む検索してるやつ片っ端から捕まていったほうが
事前に犯罪阻止できてよさげ
世界に荒れて欲しがっていると陰謀論唱えていくぞ
なんちゃってAI
そんなん頭おか五毛しか言わんぞ
それはない
パレスチナ問題を聞きたいな
んな訳ねーだろ
そいつchinaからの帰還兵やんけ洗脳されてる工作員に何の意味あんねん
???「当たらなければどうということはない」
という中国人の主張か
その2社がそんな情弱なわけ無いから、中身を調査するんだろ
しかも全ての情報が中国へ流れる恐ろしいAIだしな
豚小屋でバルサンを炊いたら豚が先に死ぬぞ。そうなると任豚が可哀想だろ
共産党らしいやん
インストールしてるやつ
片っ端から逮捕しろよ
スパイかかくめいか
このAIでニポーンを盗人犯罪天国にする目論見だろ？ｗ
まー今でもそうなんだけどな！
天安門で沈黙するAIが真実を語るとでも？
電子戦一歩先を行ってる
バカには便利な道具渡せばいい
アメリカはさらに内部で荒れそう
トランプ嫌悪者のキチガイぶりがすげぇからなぁ
国営放送で野獣を出した国だからあり得るのがなんとも
これを英文にして
勝手にHな妄想をして利用規定違反にするOpen AI
なるほどこりゃ正式採用は絶対に出来ないわ
一番注目すべきはこれだと思うんだけどな
96%も相当やべぇだろ