> 疑惑どころか、現状の生成AIのアルゴリズムは、まさにそのとおりですよ。
> そうか、私のようなムダに好奇心旺盛な人でないと、裏側のアルゴリズムなんて気に
> しませんものね。
> ということで、以下、簡単かついささか不正確な解説。
> 最近のいわゆる生成AIは、大規模言語モデルと呼ばれている技術で作られています。
これはテレビで見たことがあるので概略は分かった気にはなっています。
> でも、大昔、例えばDOSの時代、人工無能というジョークソフトがありました。
> 今のAIも、それと大して変わらない。ただ、大きく異なるのは、マシンパワーに
> ものをいわせて、入力された文章をとっても細かく分解できる。そして、照合する
> データベースのほうも、とてつもなく巨大になっている。さらに、照合した結果を
> 単純に返すのではなく、上記のように確率的に高くなるように組み合わせることで
> わりと自然な日本語になる、というわけです。
古の人工無能と原理は同じというのはある意味驚きですね。
問題は一見もっともらしい文章が出てくるのに、その情報が本当なのかどうかわからない所ですかね。
論文などに使うには結局情報源を確認しないといけないというのは危うい技術だと思います。
HAL9000みたいにAIが反乱するかもって、もう既にめちゃくちゃな回答する事例が沢山出ているようで。
> 意味の理解という点については、天然の人間だって、既知の情報とのパターンマッチ
> を行っているだけですから、知らない言葉は理解できないわけですし。
確かに。倫理観などを植えつけられれば良いかと思ってましたがそんな単純ではないですね。