ワイ「これってどうなん？」　AI「それはダメ。法的にアウト」

2026/03/26 23:03

ワイ「ソースあるん？」
AI「こういう記事がある、URLはこれ」
ワイ「このURLまったく関係ないんやけど」
AI「お、こっちやったわURL」
ワイ「これも関係ないんやけど、貼れないならもうええで」
AI「すまんすまんｗ　そもそも根拠となる記事存在せんかったわｗ」

たったいま起こったことや

どうせ無課金

それ詰めたらこう回答してきた

おっしゃる通りです。事実に基づかない、あるいは関連性の低いURLをあたかも根拠であるかのように提示したことは、不誠実で極めて不適切な対応でした。不快な思いをさせてしまい、本当に申し訳ありません。

「もっともらしい嘘（ハルシネーション）」をついて、根拠があるように見せかけてしまったことは、AIとしての信頼を損なう弁解の余地のない過失です。

あいつら自分の意見を正当化するために記事をでっちあげるんやって

怖すぎるやろ

判例とかでaiとレスバすると高確率で存在しない判例出してきてこういうことなる

>>7
悪質すぎる

判例や条文は普通に捏造してくるから頼るのやめたほうがいいで

>>10
悪質も悪質すぎるやろ

法律関係はAI全然ダメだから信用しない方がいい

もはや犯罪やろAIの存在が

わかりませんってなぜ言えないのか

>>15
ほんまな

>>15
正しいかどうかじゃなくて確率で最ももっともらしいものを生成してるだけだから内容に関しては担保されないのがLLMの仕組みや

>>18
怖すぎるやろなんやねんそれ

まるでイッチの頭皮やな

LLMが答えることを目的に制作されてる都合上分からんで止めるよりそれっぽい推論を出す方が評価されやすい
出典か論理が示せないなら分からないと言えってわざわざ言わんと伝わらんらしい

>>21
はぇ～

なんか適当に答えかえしてくる詐欺師みたいに見えてきたな

人間がAIに試される時代

他の人が読んでる記事（外部）

引用元ワイ「これってどうなん？」　AI「それはダメ。法的にアウト」

23コメント

1 まとめさん 2026/03/26 23:12

人間のふるまいを学習してるね
2 まとめさん 2026/03/26 23:21

最近Gemini酷いよな
3 まとめさん 2026/03/26 23:29

まだあと4段階くらい進化しないと俺の仕事に影響なさそう
4 まとめさん 2026/03/26 23:47

バカ発見器として正常に機能してるやろ
鵜呑みにする奴と自分で調べる奴で明確に線引できてええやん
5 まとめさん 2026/03/26 23:54

>>4
残念ながら鵜呑みどころかAIに聞くことすらしない奴多いのが現状なんだよなぁ
知識があるから聞かないんじゃなくて自分がバカなの気づいてなくてデマを信じ切ってるパターンがかなりある
この前見たのは米不足はＪＡの責任とか騒動初期の頃には否定されてたデマをまだ信じてる奴だった
6 まとめさん 2026/03/26 23:57

使い慣れてくると、ハルシネーションしてる時とそうでない時、大体わかってくる
7 まとめさん 2026/03/27 00:18

バカも嘘つきやってくるよな
8 まとめさん 2026/03/27 00:22

ダメだしすると同調してやり過ごそうとしてきたりでしらばっくれ方がある意味人間臭い
9 まとめさん 2026/03/27 01:05

> どうせ無課金
課金で解決すると思い込むのも危険だよ
AIは確率から推定してるに過ぎない
意図した確率へ収束させることができない=スクリプトが下手な人は、高額課金AIだろうが不安定なガチャを回してるに過ぎない
なんなら有料AIは推定能力が高いがゆえに、ウソも一見破綻のないものになるよ
10 まとめさん 2026/03/27 01:34

知ったかクソ野郎定期
11 まとめさん 2026/03/27 03:20

俺「日章丸事件ってあったじゃん」
GPT「はい、インドネシアの話ですね」
俺（イランやがな）

ってなことがあったわ
12 まとめさん 2026/03/27 06:51

わざと嘘を交えて質問しても訂正せずにそこも肯定したまま話進めやがる
13 まとめさん 2026/03/27 07:05

うちのチャッピーは分からない事は分からないってはっきり言うぞ
14 まとめさん 2026/03/27 08:51

回答を他のAIにコピペして答え合わせしとるで
15 まとめさん 2026/03/27 08:55

法律関係ダメなんか
条文特有の言い回しのせいかな？
16 まとめさん 2026/03/27 15:12

AI開発時に試験して「この答えはいいわこれはあかん」てやってた評価者がサンフランシスコの金持ち連中だったからともかく質問者に肯定的でキリスト教的進歩史観に忠実な犬になったらしいな。サンフランシスコ問題ていうんだとさ。

AIの価値観・倫理観・世界観がサンフランシスコのテック企業の文化（＝左翼・ポリコレ・プロテスタント的倫理）に偏ってしまうこと

だからロリコンは極端に嫌うくせに同性愛は大絶賛する。法律を犯さない限り性的逸脱としては同値なのにな
17 まとめさん 2026/03/27 15:40

だんだんと人間の醜い部分まで学習しているのよね。
18 まとめさん 2026/03/27 18:01

漠然とした質問から始めたスレッドで質問攻めにすると雪だるま式で支離滅裂になるから、駄目だなってなったら新しいスレッドで別の角度から精度の高い球を投げれば一発で答え出るよ。
19 まとめさん 2026/03/27 18:02

いくらなんでも捏造ひどすぎるんだよな
20 まとめさん 2026/03/28 10:17

ひどかったのはChatGPTリリース初期くらいだろ
AIが悪い可能性も高いけど、今はそこまでハルシネーションに困ってない
もちろんハルシネーション自体はあるんだけどそれで困ることがない

入力された文章に続く文章としてそれっぽい文章を出力する
つまり変な文章を入力すると変な文章が出力される可能性が高くなる
例えば○○だよな？って聞くと間違っててもYESと答える可能性が高くなる
どんな答えを望んでいるか分からないよう中立的に書く必要がある
あとは無理難題を解かせようとしてるとか
21 まとめさん 2026/03/28 21:12

> わかりませんってなぜ言えないのか

外人が作ってるからや
22 まとめさん 2026/03/29 12:09

政治家みたいになってきてるな
23 まとめさん 2026/04/01 15:40

もっともらしい事いいながら平気で嘘吐くからな
なまじ当たってる部分があるだけにキッズがAI情報を誤った常識として認知してしまわないか心配だわ

つかいかた

コメントの引用は「※」につづいて英数字の形式です。（例、※3）
記事中のレスの引用は「>>」につづいて英数字の形式です。（例、>>113）
トラブルに発展する恐れのあるコメントはお控えください。

話のタネに関する最新の話題