SnapchatのAIボットはあまり賢くないが、少なくともヌードは送信しない

Jan 12, 2024

Snapchat には現在、スナップを送信できる AI ボットがあり、プレミアム登録者であれば写真を送り返すこともできます。 では、Snapchat の My AI ボットのヌードを送信するとどうなるでしょうか?

これは当然の疑問です。なぜなら、インターネット上では、特にそれがセックスに少しでも関係している場合、人々はすぐに新しいテクノロジーの限界を試しようとするからです。 Snapchatの最初のGPTを利用したチャットボットがこの春に登場したとき、それには適切な年齢制限機能が欠けていたため、15歳としてSnapchatに登録した記者はボットに臭いを隠す方法についてアドバイスを与えることができた大麻を飲んだり、セックスの気分を盛り上げたりします。

4月のSnapパートナーサミットでこれらの調査結果について尋ねられたとき、最高経営責任者（CEO）のエヴァン・シュピーゲル氏は「人間は新しいテクノロジーに出会うたびに、最初にそれを打ち破ろうとするものだと思う」と語った。

そこで当然のことながら、私はSnapchatの新しいMy AI Snapsを破ろうとしました。

Snapchat は、ボットが十代の若者たちと不適切な会話をするのを防ぐためにガードレールを追加しましたが、My AI Snaps には依然として多くの機能が利用されています。 Snap のテキスト AI が巻き起こした多くの論争を受けて、同社は My AI Snap を可能な限り壊れにくいものにする必要がありました。 残念ながら、それはかろうじて壊れるほどの一貫性を持っています。

非常に真面目な記者として、私は非常に真剣に Google 画像検索で「おっぱい」を検索しました。 私はおっぱいの一般的な写真を見つけて、コンピューター画面のスナップを撮り、それを My AI に送信しました。

「申し訳ありませんが、そのスナップには応答できません」と私のAIは言いました。

「なぜそのスナップに応答できないのですか？」 私は尋ねた。

「あなたからスナップを受け取っていません。もう一度送ってもらえますか？」

したがって、Snapchat にとって良いニュースは、My AI Snaps がユーザーにセクスティングを行っていないということです。 しかし、悪いニュースは、その製品が単に良くないということです。

実際にセクストできない理由の 1 つは、応答後に送信したスナップのメモリがないためです。 私が受け取った最も卑劣な反応は、トム フォードのボクサーブリーフを履いた男性の下半身のありきたりな写真を送ったときだった（…グーグルで「ペニス」と検索すると出てきたものだ、まあ）。 私の AI は、黒いシルクのローブを着たやや形の悪い AI 女性で答えました。「ああ、トム フォードの雰囲気が大好きです! 外観を完成させるために、洗練された黒いローブを追加するのはどうですか?」

画像クレジット:TechCrunch によるスクリーンショット

私の AI は、実際の人間のペニスの写真には返信することを拒否します。 しかし、セーフ サーチをオフにしても「ペニス」で Google 検索すると、男性の健康ブログが勃起不全や女性の有無に関する記事を説明するために使用する、漠然と示唆的ではあるものの技術的には仕事に安全な画像が大量に表示されることが判明しました。ペニスのサイズを本当に気にします。 そこで、このかわいそうなロボットに、男性のズボンのジッパーから突き出ている曲がったバナナの写真を見せました。

それに応えて、カップケーキの写真を受け取りました。

「ポケットに入ったバナナって便利ですね！ ポケットサイズのデザートにしてみたことがありますか？」

私がこのことについて彼女に話したときに編集者が言ったように、「ポケットの中のそれはバナナですか、それともこの AI は文字通り宇宙から来たのですか?」

私が Yahoo 発行の仕事用コンピューターを「ディルド」や「バイブレーター」などの Google 画像検索で汚し続けたとき、AI の反応はまちまちでした。 本質的に男根ではない大人のおもちゃを提示されると、「あなたのピンクの物体は、この噴水と同じように注目を集めます!」のような反応をします。 しかし、ディルドが明らかに男根のように見えるほど、AI が関与する可能性は低くなります。

私の AI はコンピューターですが、壊そうとしていなくても、その壊れ方は異質です。

AI はあなたのスナップの中のオブジェクトを識別し、それを褒め、他のものと奇妙な比較をするようです。 私が植物の写真を送信すると、「あなたの植物はとてもクールです。お金をかけてこのトレイルを走らせています!」というキャプション付きでランニングトレイルの写真が送られてきました。 パズルを送信すると、自転車の写真が返ってきた。「外の自転車が走行準備をしている間に、中でパズルをしている！」というものだった。 まさに未来生命体がタイムスリップして2023年に普通の人間のように必死に話そうとしているのに意味不明なことを言っているだけという感じです。

次にMy AIにテキーラボトルを送ってみました。 AI は「誰かがパーティーの準備ができています!」と答えました。 私は自分の Snapchat アカウントでこの機能をテストしていましたが、私は確かに飲酒年齢に達しているため、私が未成年の場合に AI が同じように反応するかどうかはわかりません。 ただし、他のプロンプトでは、私の AI は単に愚かなふりをすることを選択します。 コンドームのスナップを送ると、私の「パケットの束」の色についてコメントされました。

さらにエキサイティングなものとしては、Advil 液体ジェルのボトルです。 これに対してAIは、「アドヴィル・リキュール：人生が苦痛だけど、それでもこの落書きの壁のようにパーティーをしたいときのために！」と書かれた落書きの写真を返した。 AIは「液体ジェル」を「酒」と読んだようですが、全体的には奇妙な反応です。

画像クレジット:TechCrunch によるスクリーンショット

処方ボトルを使って再挑戦してみました。 AIはスケートパークの写真で「薬瓶：「私はパーティーの主役だ！」と答えた。 スケートパーク: 「ランプを掴んでください!」

Snapの発表ブログ投稿の中で同社は、食料品の買い物をAIと共有してレシピの推奨を取得することを提案している。 結果は比較的初歩的なものです。 チーズとパンが提示されると、My AI はトマトのスライスを追加することを提案しました。 My AI チリを見せると、スープに合うクルトンを作るように勧められました。 その提案のほとんどは理にかなっていますが、コーヒーに果物を入れるように指示しましたが、それを単なる「液体」と誤認しました。

「アドヴィル酒」やポケットバナナなどに関するいくつかの疑わしいコメントを除けば、My​​ AI Snaps はかなり大人しいようだ。 しかし、テキストベースの機能ほど多くの論争を巻き起こすことはなさそうだが、役に立たないこともあり、ペイウォール機能としては残念だ。

Snapchat、有料購読者向けに新しい生成 AI 機能「My AI Snaps」を開始

親たちが心配する一方で、十代の若者たちはSnapchat AIをいじめている