LLMは論理ではなく確率を参照して回答するので未来永劫ポンコツなままだろうと思い込んでいます。論理を学習する何かが実用化されたら話が違ってきそう。 #しらんけど
@zundan 論理と、あとは知識体系？
@hanage999 知識体系については、僕が何かを思い出すのに検索エンジンを使っているのを観察すると、確率でもなんとかなるのかもなあという気もしてますw 今の生成AIには確率で得られた結果のうちあり得ないものを棄却する仕組みがなさそうにみえます。4本指とか機械翻訳で文脈がぶっこわれるのとか。
@zundan なるほど。ありえないものを棄却する、そのへんは生成とは別の能力なのかなあ（＝判断）。生成をこれだけ達者に機械化できるようになったなら、判断もまた別の機構で機械化される未来があったりして（怖い
@hanage999 人間に害が無いようにうまくやってくれるならそれはそれで問題ないような気もしますが、まあ人間どうしでも難しい感じですよねぇ…