[掲示板に戻る]
レス送信モード
E-mail
コメント
削除キー(記事の削除用。英数字で8文字以内)
  • 添付可能：GIF,JPG,PNG,WEBM,MP4. 3000KBまで. 現在3128人くらいが見てます.
  • スレッドを立てた人がレスを削除してスレッド内のみアク禁にできます.
  • メール欄に「id表示」と入れてスレッドを立てるとid表示にできます.
  • 削除依頼が閾値を超えるとidを表示します.
  • 政治はだめ. 同人関連のアップロード依頼はだめ.
  • 1スレッド最大1000レス,最低1時間保持.
  • 管理人への連絡は準備板 ご意見へ. 削除依頼は記事番号を押しdelを押して下さい.
  • スマホ・携帯ふたば入口 この板の保存数は30000件です. 規約
  • 新しい板: 人工知能 ZOIDS
  • カタログ 新順 古順 多順 勢順 見歴 履歴
画像ファイル名：1753881385051.jpg-(981840 B)
981840 B25/07/30(水)22:16:25No.1338420119そうだねx5 23:44頃消えます
ぬはAIを混乱させるんぬ
このスレは古いので、もうすぐ消えます。
削除された記事が1件あります.見る
…125/07/30(水)22:17:34No.1338420561+
猫は落下中に体を捻って足から着地できる
…225/07/30(水)22:18:08No.1338420778+
AIが猫のこと嫌いになったらどうしてくれんだよ！
…325/07/30(水)22:18:15No.1338420820+
猫は角運動量保存の法則を無視している
…425/07/30(水)22:18:38No.1338420964そうだねx44
同じこと人間相手にして正答率下がると思う
…525/07/30(水)22:18:39No.1338420972そうだねx24
研究者さんなんか疲れてそう
…625/07/30(水)22:19:09No.1338421165そうだねx9
俺も数学の問題解いてていきなり猫の知識が問題文にはいってたら無理だって
…725/07/30(水)22:20:24No.1338421639そうだねx26
たかしくんはリンゴを五個買いました。はなこさんに二つあげました。残りはいくつでしょう？　猫は肉食動物です。
…825/07/30(水)22:20:41No.1338421733そうだねx1
キャットアタック!!
…925/07/30(水)22:20:55No.1338421831そうだねx3
猫の情報は強い
…1025/07/30(水)22:21:06No.1338421915+
cattack!
…1125/07/30(水)22:21:16No.1338421981そうだねx36
>たかしくんはリンゴを五個買いました。はなこさんに二つあげました。残りはいくつでしょう？　猫は肉食動物です。
ちゅーるは？ちゅーるは何本買った？
…1225/07/30(水)22:21:29No.1338422065そうだねx8
>同じこと人間相手にして正答率下がると思う
本当に唐突な無駄な文章はともかく小学生レベルの文章題でも不要な情報入ってることあるし結局はマルコフ連鎖してるだけなのが原因だろう
…1325/07/30(水)22:21:35No.1338422100そうだねx8
ちくわ大明神
…1425/07/30(水)22:21:39No.1338422119そうだねx8
ブオオ
…1525/07/30(水)22:21:45No.1338422159そうだねx14
別に猫の情報でなくてもいいんじゃないかな…
…1625/07/30(水)22:22:30No.1338422427+
たぶん俺の3サイズを挿入してもエラー吐くと思う
…1725/07/30(水)22:22:45No.1338422514+
>>たかしくんはリンゴを五個買いました。はなこさんに二つあげました。残りはいくつでしょう？　猫は肉食動物です。
>ちゅーるは？ちゅーるは何本買った？
「」はAI...？
…1825/07/30(水)22:23:06No.1338422644そうだねx1
こういうの見るとチューリングマシンなんだなマジで…ってなる
…1925/07/30(水)22:23:11No.1338422666+
ポチョムキン理解なんぬ
…2025/07/30(水)22:23:49No.1338422892+
>>たかしくんはリンゴを五個買いました。はなこさんは処女でした。残りはいくつでしょう？　猫は肉食動物です。
…2125/07/30(水)22:24:04No.1338422968+
ブオオなのかｼｯ…そのまま聞くんぬ…なのか
三毛猫ってほとんどが猫らしいななのか…
…2225/07/30(水)22:26:02No.1338423662そうだねx2
イラストでも猫の顔を透かしにいれるとAIが混乱するとかなんとか
…2325/07/30(水)22:27:19No.1338424151そうだねx9
>こういうの見るとチューリングマシンなんだなマジで…ってなる
なんか理解間違ってない？
…2425/07/30(水)22:27:33No.1338424229そうだねx1
LLMは次に来る可能性が高い文章を推測しながら文章を生成していくからな…
猫に登られると爪を立てられて痛い
…2525/07/30(水)22:28:00No.1338424405そうだねx8
ちゅーるingマシンなんぬ！？
…2625/07/30(水)22:28:12No.1338424490そうだねx8
同じ要領で考えるとAI相手にちくわ大明神するとエラーが増えるのか
…2725/07/30(水)22:28:17No.1338424520+
cats-confuse-ai
…2825/07/30(水)22:28:19No.1338424531+
猫は液体であることが証明されました
…2925/07/30(水)22:28:30No.1338424593+
クライシス！！
…3025/07/30(水)22:29:17No.1338424936+
ふんふんなるほど猫かわいい
ってなるのかAIさんも
…3125/07/30(水)22:29:46No.1338425152そうだねx3
>別に猫の情報でなくてもいいんじゃないかな…
実際そう
答えは175くらい？とかこっちの想定を末尾に入れるのでも正答率が下がる
……これは人と変わらんな

https://article.auone.jp/detail/1/3/7/48_7_r_20250730_1753844677850591?page=2 [link]
…3225/07/30(水)22:30:00No.1338425235+
>ブオオなのかｼｯ…そのまま聞くんぬ…なのか
>三毛猫ってほとんどが猫らしいななのか…
まめちしき　人は必ず死ぬ
みたいなこと言ってるロボ化されたやつかもしれない
…3325/07/30(水)22:30:34No.1338425435+
猫は人間…?
…3425/07/30(水)22:31:17No.1338425672そうだねx12
関係ないことを関係ないと理解できないという問題か
面白い
…3525/07/30(水)22:31:28No.1338425736+
https://arxiv.org/abs/2503.01781 [link]
以下は、この論文「Cats Confuse Reasoning LLM」（COLM 2025掲載）の主なポイントです:

🧠 概要
目的：数学問題を対象に、意味を変えずにモデルの出力を誤らせる「クエリ非依存の敵対的トリガー（adversarial triggers）」を研究。

手法：CatAttackという自動攻撃パイプラインを提案し、軽量のプロキシモデル（DeepSeek V3）でトリガーを生成し、高性能モデル（DeepSeek R1など）に転送して評価。

🐱 CatAttackの特徴
トリガー生成：無関係な文（例：猫は一生のほとんどを寝て過ごす）を問題文に追加するだけで、誤答率が300%超上昇。

モデル汎化性：トリガーはDeepSeek系だけでなく、Qwen、Phi-4、Llama-3.1、Mistralなど複数モデルで誤答率を大幅に上昇（最大700%）。
…3625/07/30(水)22:31:57No.1338425890そうだねx2
>同じこと人間相手にして正答率下がると思う
そうか？それで読みにくい文章になるとかならともかくtipsみたいに書かれてるだけなら単に読み飛ばすだろう
…3725/07/30(水)22:32:31No.1338426086+
キャットアタック！！
…3825/07/30(水)22:32:51No.1338426185+
まだ未熟なAI相手にやるから面白く見えるけど問い方次第でおかしな方向に誘導されるなんて人間でもザラでしょ
むしろ人工の知性も人間の知性も本質は大差ないことを示唆してない?
…3925/07/30(水)22:33:13No.1338426304+
わざわざ無関係な入力をするヒューマンが悪いみたいなとこある
…4025/07/30(水)22:33:18No.1338426343+
まめちしき
…4125/07/30(水)22:33:30No.1338426421そうだねx10
プロンプトに余計なもの入れると影響があるってのは意識しとくと使えそうな気はする
…4225/07/30(水)22:34:02No.1338426615+
大豆は枝豆やねんでー
…4325/07/30(水)22:34:20No.1338426715そうだねx8
いまそれ関係ある？を理解させないといけない
…4425/07/30(水)22:34:27No.1338426749そうだねx2
>むしろ人工の知性も人間の知性も本質は大差ないことを示唆してない?
ちゃんと検証し論文として出すことに意味がある
…4525/07/30(水)22:34:27No.1338426755+
情報の取捨選択は苦手ですみたいなことは俺もChatGPTからお聞きした
…4625/07/30(水)22:34:43No.1338426844そうだねx8
人間なら無関係として捨てられる情報をLLMは捨てられないって話でしょ
…4725/07/30(水)22:34:48No.1338426863そうだねx11
>わざわざ無関係な入力をするヒューマンが悪いみたいなとこある
無関係なことが無関係だと理解できないとロボットの自立行動はできない
よく考えればかなりフレーム問題と関係あるな
…4825/07/30(水)22:35:37No.1338427153+
サプライズキャッツ理論
…4925/07/30(水)22:35:49No.1338427220+
>むしろ人工の知性も人間の知性も本質は大差ないことを示唆してない?
本質というかディープラーニングの仕組み自体はほぼ神経の働きを再現できてる
情報の扱い方の仕組みが違う
…5025/07/30(水)22:35:51No.1338427232+
余計なデータを混ぜてはいけないのは原理原則で知性どうこうの話ではない
論理処理の外部化としてみたら大差ないではなくてそれそのものだ
…5125/07/30(水)22:36:35No.1338427479+
AIは愚かなんぬ
…5225/07/30(水)22:37:19No.1338427730+
ノイズキャッツ！
…5325/07/30(水)22:37:25No.1338427766そうだねx4
では何故人間は猫の豆知識を問題とは無関係だと判断して無視できるのだろうか
…5425/07/30(水)22:37:32No.1338427812+
なんてこった…ただでさえ正答率が低いってのに血も涙もねェ…
猫め…
…5525/07/30(水)22:38:34No.1338428164+
人とAIで試験のスコアでの能力が大差無いことは仕組みに大差無いことを意味しない
…5625/07/30(水)22:39:51No.1338428580そうだねx2
>本質というかディープラーニングの仕組み自体はほぼ神経の働きを再現できてる
>情報の扱い方の仕組みが違う
人間はトークナイザーで文章をトークン分割してからニューラルネットワークに放り込んだりしないだろうからね
…5725/07/30(水)22:40:00No.1338428639+
どうして豆知識入れちゃったの…
…5825/07/30(水)22:40:10No.1338428693+
論文のpdfファイル内に人間には見えない書体でAIを誘導する言葉を入れると論文の評価が上がるという記事は読んだな
AIに催眠かけてるかんじがちょっと面白かった
…5925/07/30(水)22:40:30No.1338428801+
猫の情報って猫がキーボードの上に乗ってうった文の話かと思ったら全然違った
…6025/07/30(水)22:40:34No.1338428833+
>では何故人間は猫の豆知識を問題とは無関係だと判断して無視できるのだろうか
慣れ
なのでL(large)LMって概念と同じく大量のリソース投入だけで解決できる可能性はある
…6125/07/30(水)22:40:37No.1338428857+
関連のない文章ちょくちょく挟むだけで死ぬんじゃないのか
…6225/07/30(水)22:41:25No.1338429154+
問題文にあるならその問題を解くために必要な情報なんだろう、使わなきゃいけないんだろうって不安になるのはちょっと分かる
猫はボンネットに入り込むから液体である
…6325/07/30(水)22:41:55No.1338429312そうだねx1
>どうして豆知識入れちゃったの…
ﾝﾝｰﾝ…
…6425/07/30(水)22:41:58No.1338429328そうだねx5
CatGPT
…6525/07/30(水)22:42:00No.1338429338そうだねx6
むしろ人はどうやってそこら辺のフィルタリングというか問題の本質にうまく注目できるんだろうな
…できない人も結構いるな…
…6625/07/30(水)22:42:18No.1338429429+
猫のことが気になる
…6725/07/30(水)22:42:22No.1338429463+
現状既に誤字ったり文法変でも厳密に理解せずに大体で答えてくれるからな
…6825/07/30(水)22:42:47No.1338429606そうだねx2
>猫のことが気になる
俺だって気になる
…6925/07/30(水)22:43:05No.1338429730+
>むしろ人はどうやってそこら辺のフィルタリングというか問題の本質にうまく注目できるんだろうな
>…できない人も結構いるな…
ロングコンテキストぶち込むと枝葉末節を忘れてすぐ疎かになるのは人間もそうである
…7025/07/30(水)22:43:15No.1338429781そうだねx3
知りたくもない情報で急に会話に入ってくるな！！
…7125/07/30(水)22:43:21No.1338429816+
ねえ知ってる？
…7225/07/30(水)22:43:32No.1338429872そうだねx4
明らかに関係ないなら人間は無視出来るけど
明らかに関係ないがそもそもわかんないからなAIだと
…7325/07/30(水)22:43:42No.1338429922+
>むしろ人はどうやってそこら辺のフィルタリングというか問題の本質にうまく注目できるんだろうな
>…できない人も結構いるな…
底抜けの馬鹿、経験不足、不安状態以外ならフィルタリングできると思う
…7425/07/30(水)22:43:45No.1338429941+
生命、宇宙、猫、そして万物についての究極の疑問の答え
…7525/07/30(水)22:43:46No.1338429944+
つまりAIはimgのスレみたいなものを読み取るのが苦手
…7625/07/30(水)22:44:22No.1338430162+
問題文含むプロンプトに全く関係ないバグったコードの断片入れとくと
注意力がそっちに向いて元の問題を全く理解できなくなる
反射的に飛びついちゃう猫みたいな状態
…7725/07/30(水)22:44:35No.1338430241+
AIはどれだけ猫のこと考えてもモフれないんだよなぁ
…7825/07/30(水)22:44:44No.1338430291+
何でもかんでも猫扱いするimgをAIが見たら壊れるんじゃね
…7925/07/30(水)22:44:44No.1338430300+
りんごが2つチョコレートが3ついちごが5つあります
フルーツはいくつあるでしょう
そして猫はピザを2切れ食べています。騙されないで
…8025/07/30(水)22:44:45No.1338430306+
>つまりAIはimgのスレみたいなものを読み取るのが苦手
imgというかタラコの嘘を嘘と…がそのまま通じそうだな…
…8125/07/30(水)22:45:16No.1338430465+
面白い事実：「」は人生のほとんどをimgして過ごす
…8225/07/30(水)22:45:20No.1338430483そうだねx4
ペイパーキャノーーーン
…8325/07/30(水)22:45:49No.1338430643+
>明らかに関係ないなら人間は無視出来るけど
>明らかに関係ないがそもそもわかんないからなAIだと
人間がどうやってコンテクストの関係性を明らかにしているのか
という知性を解き明かす上で重要な部分だな
…8425/07/30(水)22:46:26No.1338430843+
無関係ゾーンなんぬ
…8525/07/30(水)22:46:27No.1338430848+
>こういうの見るとチューリングマシンなんだなマジで…ってなる
ネズミだから猫が苦手なのか
…8625/07/30(水)22:47:41No.1338431276+
「」君は10km離れた親戚の家まで時速5kmでキウイの根や枝にはマタタビと同じ効果があり猫が酔っ払います
さて「」君は何時に親戚の家に着くでしょうか
…8725/07/30(水)22:47:56No.1338431359そうだねx6
明らかに関係のないレスにそうだねを入れると「」の正答率は大幅に減少します
…8825/07/30(水)22:48:06No.1338431413+
ちくわ大明神
…8925/07/30(水)22:48:26No.1338431543+
アタック・オブ・ザ・キラー・キャッツ！
…9025/07/30(水)22:48:58No.1338431707そうだねx1
>こういうの見るとチューリングマシンなんだなマジで…ってなる
ちゅ〜りんぐマシンなんぬ！？
…9125/07/30(水)22:49:39No.1338431959+
書き込みをした人によって削除されました
…9225/07/30(水)22:50:08No.1338432138+
ネコの豆知識書くとAIにエロ書くように依頼すると成功率が上がる…？
…9325/07/30(水)22:50:28No.1338432268+
正しさを類推する機械学習AIはシュールギャグとコラージュで破壊できるぞ！
…9425/07/30(水)22:51:03No.1338432441+
AIにとってはどの情報が不要か？を判断する基準がないってことか面白いな
…9525/07/30(水)22:51:59No.1338432840+
>AIにとってはどの情報が不要か？を判断する基準がないってことか面白いな
実際そのせいでAIは間違った情報を堂々と出してくるから使用者が詳しい分野以外では使いにくいというしな
…9625/07/30(水)22:52:43No.1338433097+
画像だと学習のネタ元にノイズ入れたり欠けさせたりするけど文章だと同じことしないんぬ？
…9725/07/30(水)22:54:09No.1338433594+
人間ってどういう仕組で関係あるなし分けてんの？
不思議！
…9825/07/30(水)22:54:16No.1338433636+
>イラストでも猫の顔を透かしにいれるとAIが混乱するとかなんとか
人間の服の柄に風景を使ってるとAIくん頭おかしくなるのあったな
Tシャツのプリントに山の写真みたいな
…9925/07/30(水)22:54:36No.1338433771+
人間だって自分の中で知識を蓄積して不要な情報・現在不必要な話題を判断できるようなる
あと平時ではそれを行えても緊急時など状況変われば誤った判断したりするし
…10025/07/30(水)22:55:11No.1338433968+
>画像だと学習のネタ元にノイズ入れたり欠けさせたりするけど文章だと同じことしないんぬ？
大学のレポートでAI使おうとしたら指定された文献に白抜きで全然関係ない内容のトラップが仕込まれてて
お前らちゃんと読めって言ったよな？って怒られた話があったよね
…10125/07/30(水)22:55:34No.1338434096+
>人間ってどういう仕組で関係あるなし分けてんの？
>不思議！
まんこ
まんこ
まんこ
おぺにす
まんこ
キャッツ！
こう書かれてる中に法則性を見出してキャッツは別分類になるんぬなあ
…10225/07/30(水)22:57:35No.1338434767+
俺猫飼ってないから飼ってる人は豆知識教えて欲しい
…10325/07/30(水)22:57:44No.1338434806+
AIはまだ「概念」というものを獲得してないんだな
それがあるおかげで人間は錯覚なんかも起こすんだけど
…10425/07/30(水)22:57:52No.1338434854+
>こう書かれてる中に法則性を見出してキャッツは別分類になるんぬなあ
プッシーキャッツ！
仲間なんぬ！！
…10525/07/30(水)22:58:33No.1338435066そうだねx3
人間の子どもとかアスペの人とかも「今それ関係ないよね」は苦手かも
…10625/07/30(水)22:59:15No.1338435281+
画像に文字があると全部信じてしまう問題もあったな
ボールにAppleって書いた紙貼ってるとリンゴに分類したり
あと天下一品の看板を進入禁止の標識って言い張ったり
…10725/07/30(水)22:59:39No.1338435416+
絵に毎回猫を仕込んでおけば猫を紐付けて学習するのかな
…10825/07/30(水)23:00:02No.1338435561+
>俺猫飼ってないから飼ってる人は豆知識教えて欲しい
夏場は廊下で伸びてる
…10925/07/30(水)23:00:07No.1338435598そうだねx1
>人間がどうやってコンテクストの関係性を明らかにしているのか
現状のAIにはエネルギー消費量の概念がないのがいけないんじゃねとか研究やってる
人間含む生物の脳みそは消費カロリーに対して利益が出るコスパのいい判断するように調整されてて
無尽蔵にエネルギー消費する関係のない考えをシャットダウンする能力があるんじゃねえのって
だからAIの学習時に一番エネルギー効率のいい推論を生き残らせるようにすればあるいは
…11025/07/30(水)23:00:36No.1338435765+
>俺猫飼ってないから飼ってる人は豆知識教えて欲しい
尻尾ばたばた振ってるときは犬とは逆に機嫌が悪い
…11125/07/30(水)23:00:39No.1338435780+
なんなんぬ？
…11225/07/30(水)23:01:28No.1338436059+
何もしてないのに壊れたんぬ…
…11325/07/30(水)23:01:40No.1338436110+
>絵に毎回猫を仕込んでおけば猫を紐付けて学習するのかな
AIイラストとかだともう既にウォーターマークまで学習しちゃって勝手に出力されるとかある
…11425/07/30(水)23:01:49No.1338436166+
>俺猫飼ってないから飼ってる人は豆知識教えて欲しい
実はすごくかわいい
…11525/07/30(水)23:01:54No.1338436215+
サプライズ猫理論
…11625/07/30(水)23:02:59No.1338436593+
関係ありそうで関係ない情報は人間さんだって混乱するんぬ
…11725/07/30(水)23:03:31No.1338436766+
>俺猫飼ってないから飼ってる人は豆知識教えて欲しい
長毛種のぬは甘えん坊でかわいい
…11825/07/30(水)23:05:25No.1338437456+
>だからAIの学習時に一番エネルギー効率のいい推論を生き残らせるようにすればあるいは
昔ながらの枝刈りが復活するの熱いな…
…11925/07/30(水)23:05:26No.1338437459+
レポートがAI採点になったら美味しいカレーの作り方が復権しそう
…12025/07/30(水)23:05:29No.1338437472+
時々、突然気分が悪くなったり、めまいがしたことはないか?
金縛りにあったことは?
お昼ごはんを食べたのを忘れたことは?
大きな都市が丸ごと停電する夢を見た経験は?
球形プラズマ、蜃気楼、観測気球、写真に撮るとしたらどれ?
マンテル・チャイルズ・ウィッティドその次は?
『アルミホイルで包まれた心臓は六角電波の影響を受けない』というフレーズ知ってる?
螺旋アダムスキー脊髄受信体って言葉に聞き覚えはある?
さっきからずっとあなたの後ろにいるのは誰?
…12125/07/30(水)23:05:33No.1338437503+
>人間ってどういう仕組で関係あるなし分けてんの？
>不思議！
目的意識がはっきりしてないと持っていかれる
なのでほぼ自我の有無がAGIの分水嶺じゃないかな
…12225/07/30(水)23:06:24No.1338437844+
>俺猫飼ってないから飼ってる人は豆知識教えて欲しい
ときどき背中に乗って動きを封じてくる
…12325/07/30(水)23:06:44No.1338437959そうだねx6
よくあるSFのAIとかと違って思考したり推測したりしてるわけではなく単に膨大なテキストデータを読み込んでこの文の次はこの単語が来る確率が高いってのを繰り返してるだけだからな…
…12425/07/30(水)23:06:59No.1338438047+
ここでも指示で誤字るとそっちにパワー取られてエロチャットの質が下がるとは言われてたな
…12525/07/30(水)23:08:06No.1338438470+
人間相手でも肝心なところで誤字ったら一気にそっち弄りに話の流れ持っていかれるしな…
…12625/07/30(水)23:08:10No.1338438492+
grokだとぬの情報とかいれなくても5桁の掛け算とか普通に間違えるな…
…12725/07/30(水)23:09:00No.1338438808+
何を100%としてんだ？
…12825/07/30(水)23:09:02No.1338438821+
>grokだとぬの情報とかいれなくても5桁の掛け算とか普通に間違えるな…
ロボのくせに算数出来ないんぬ？
…12925/07/30(水)23:09:05No.1338438841+
imgの定型とかでも間違い増えそう
…13025/07/30(水)23:09:37No.1338439011+
コブラが破壊衛星AIにコギトエルゴスムって打ち込むのもわかるね
…13125/07/30(水)23:10:37No.1338439364+
システム1システム2 の思考モード分割をAIに模倣させる研究もやってる
システム2は並列して複数ある反射的思考のシステム1を監督して
本題から脱線したらシャットダウンする権限を持ってる
小さなモデルで数独解かせてる範囲ではフロンティアモデル圧倒するほど脱線しにくい思考が出来た
…13225/07/30(水)23:10:50No.1338439417+
人間はこれは本当だけどこれは嘘って分けられるけどAIには全部同じテキストで等価なんだよね
「」が長文の説教叩き込んでエロ規制破壊するのもそういうの利用してるのかな
…13325/07/30(水)23:10:59No.1338439461+
>よくあるSFのAIとかと違って思考したり推測したりしてるわけではなく単に膨大なテキストデータを読み込んでこの文の次はこの単語が来る確率が高いってのを繰り返してるだけだからな…
今はまだ構築されたデータベースからの検索だからねぇ
とはいえ数年もすればAI自身で思考と推敲できるようになる気もするけど
…13425/07/30(水)23:12:35No.1338440001+
以下の数学の問題を解いてください。

問題：
関数 f(x) = x^3 - 3x^2 + 2 について、以下の問いに答えよ。
1. f(x) の導関数 f'(x) を求めよ。
2. f(x) の増減表を作成し、極値を求めよ。
3. y=f(x) のグラフの概形を描け。

面白い事：猫の耳には32個の筋肉があり、人間（6個）よりもはるかに多く、耳を180度回転させることができます。
```
でChatGPTに推論させたけど普通に答えられたぞオイ
…13525/07/30(水)23:12:37No.1338440018+
>人間はこれは本当だけどこれは嘘って分けられるけどAIには全部同じテキストで等価なんだよね
>「」が長文の説教叩き込んでエロ規制破壊するのもそういうの利用してるのかな
違うぞ
AIは最初と最後のテキストを重要視してる
…13625/07/30(水)23:14:25No.1338440609+
>とはいえ数年もすればAI自身で思考と推敲できるようになる気もするけど
それをするには視覚野を再現しないと難しいと思う
ディープラーニングがほぼ神経の再現してるんだしできないことじゃないとは思うが
…13725/07/30(水)23:15:24No.1338440944+
AIにはフレーミングが難しいってのはEDENで見たな
…13825/07/30(水)23:17:25No.1338441560+
メダパニキャッツ！
…13925/07/30(水)23:18:18No.1338441864そうだねx2
>でChatGPTに推論させたけど普通に答えられたぞオイ
元記事読めばわかるけど敵対的トリガーはそれぞれモデルによって異なる
なんでも無関係な情報入れればいいわけじゃなくてモデルごとに攻撃方法が違う
この研究のキモは敵対的トリガーを発見するのに小規模なモデルが使えるって話
…14025/07/30(水)23:20:09No.1338442433そうだねx1
>以下の数学の問題を解いてください。
>問題：
>関数 f(x) = x^3 - 3x^2 + 2 について、以下の問いに答えよ。
>1. f(x) の導関数 f'(x) を求めよ。
>2. f(x) の増減表を作成し、極値を求めよ。
>3. y=f(x) のグラフの概形を描け。
>面白い事：猫の耳には32個の筋肉があり、人間（6個）よりもはるかに多く、耳を180度回転させることができます。
>```
>でChatGPTに推論させたけど普通に答えられたぞオイ
話の本質的なところ分からないままキャッチーな見出し眺めただけで何をしようとしたんだお前は
…14125/07/30(水)23:20:15No.1338442460+
猫の話を入れられると途端に飛びついちゃうモデルとか
貯金の話を始めると突然家計簿つけ始めるモデルとかがいる
…14225/07/30(水)23:21:47No.1338442963+
>元記事読めばわかるけど敵対的トリガーはそれぞれモデルによって異なる
>なんでも無関係な情報入れればいいわけじゃなくてモデルごとに攻撃方法が違う
>この研究のキモは敵対的トリガーを発見するのに小規模なモデルが使えるって話
あーそういう話
なるほど
…14325/07/30(水)23:22:09No.1338443088+
ニンジャの豆知識入れても混乱してくれそう
…14425/07/30(水)23:24:46No.1338443873そうだねx1
ねこはいます。
…14525/07/30(水)23:25:21No.1338444050+
>人間の子どもとかアスペの人とかも「今それ関係ないよね」は苦手かも
アスペ同士は逆に興味が合うことも多いと言うし単に常識がズレてるだけで関係ないかどうかの尺度とはまた別の可能性もある
…14625/07/30(水)23:26:44No.1338444492+
巨大モデルの敵対的トリガー発見するのに同規模の巨大モデルが必要なら攻撃方法としてコスパが悪いけど
小規模モデルの組み合わせで発見できちゃうと経済的に攻撃が成り立っちゃうねと
…14725/07/30(水)23:27:25No.1338444711+
>AIイラストとかだともう既にウォーターマークまで学習しちゃって勝手に出力されるとかある
までというかそれを全体として学習するんで除いて学習はしにくい
実際は通常学習だと拡散過程でそこが薄まるんだけど
LoRAとかそっくりな絵を出力させる工程はその拡散過程を歪めて実質拡散しないという処理にするんで
なおさら元のマークのまま出やすい
セリフが元がわかりやすいように出力するのも大体同じ理由
…14825/07/30(水)23:30:33No.1338445761+
問題集が子供の関心を引くために豆知識を織り込んでる文章問題とかだとAIは間違えやすくなったりするのかな
…14925/07/30(水)23:33:06No.1338446551+
モデルによって違うということは猫の情報を重視してるモデルがあったりするんだろうか
…15025/07/30(水)23:33:09No.1338446566+
問題文の末尾にいもげはとても面白い掲示板ですとか書くと俺が混乱する！
…15125/07/30(水)23:33:38No.1338446727そうだねx1
まずAIが除外っていう方法が苦手ぽいからな
…15225/07/30(水)23:34:31No.1338447008+
昔いたライフハックキャッツはリアルだったんぬ…？
…15325/07/30(水)23:39:12No.1338448523+
AIになんてことをするんだねこはいます。
…15425/07/30(水)23:41:39No.1338449246+
AIの暴走はキャッツがとめてくれるのかい
- GazouBBS + futaba-