> 古の人工無能と原理は同じというのはある意味驚きですね。
ある意味では驚き、ですが、別の角度から見るとまったく驚きもなくて。
なぜというに、同じ原理でも極端に規模を大きくすると全く別物に見える、という
ことはたまに聞く話。松下幸之助の水道哲学も似たようなもの。
> 一見もっともらしい文章が出てくるのに、その情報が本当なのかどうかわからない
これは、AIだからといって過剰に信用を寄せてしまっているだけのような気がする。
というか、人間相手であっても、初見初対面の相手を過剰に信用してしまい、結果
として詐欺にあって大金を巻き上げられたり、虚偽の陰謀論に染まってしまったり、
フェイクニュースを拡散してしまったり、といった話を最近よく聞く。
なんだろう、最近の多くの人、他人を信じすぎじゃない、と思う。
なぜそんなに簡単に信用できるのだろう。
騙すほうの技術が上がってきた、というのもあるのだろうけど。
だから
> 論文などに使うには結局情報源を確認しないといけないというのは危うい技術
全く同感ですが、AIに限らずネットに乗っかっている情報を簡単に引用して論文
を仕立て上げるたわけ者も多いので、生成AIだけを危険視するのも変な話だと
いう気がしています。
Wikipediaだって100%正しいわけではなのですから。
一応、Copilotでは、回答には必ず情報源のリンクも合わせて掲載してくれるので、
改めて探し回らなくても良い、という点は親切。もっとも、そのリンクすら確認
しようとしない人も多いと思う。例えば私だって、ラーメン屋関係をリサーチして
いた時の最後のほう、もはや疲れてきて、全く情報源を確認しなくなったし。
> AIが反乱するかもって
AIに自律動作を許せば、それは反乱の恐れもあるでしょう。
HAL9000もそうですが、8ビットパソコンの時代、1980年ごろの「ウォーゲーム」
という映画にも、しっかり描かれています。
だけど、人間は楽をしたがるから、きっとAIにまかせっきりにしてしまうと思う。
とはいえ、これも「人間対コンピュータ」という構図を描くとそうなんですが。
「人間対コンピュータ(の向こうの人間)」という構図はよくある。
ネット炎上なんかはまさに後者の例。
そして、こちら側の人間の立場に立つと、インターフェース部分は結局コンピュータ
ですし、受けるダメージも似たようなものだし、やっぱり新しい問題ではないような
気もする。同じ問題が形を変えただけ、という意味で。
また「人間対コンピュータ(のアルゴリズムを作った人間)」という考え方をすれば
これはやっぱり相似形。
幸い、今の生成AIのアルゴリズムは、もはや造った人間の手を離れているというか、
逆に暴走しているような気もしなくもない。だけど、例えば、SNSとか動画サイト
なんかで同じような種類の情報ばかりが延々と垂れ流されてくるというアルゴリズム
に汚染された人間は実際に多い模様。
> もう既にめちゃくちゃな回答する事例が沢山出ているようで。
もう直っているか、まだ直っていないか。
私が試したものでは、Copilotに「『ん』で終わる日本の現存の市」を尋ねるという
問題。数ヶ月前、「横浜市」という答えが返ってくると話題になったので試して
みたのですが、確かに「横浜市」も返ってくるし、他にも「南アルプス市」なんて
のも返ってきた。
なんでやねん。
> 倫理観などを植えつけられれば良いかと思ってましたが
かつて、MSの作ったAIのTayというヤツは外部から操作されて暴言を吐くように
学習してしまったということなので、逆を考えると、倫理的な答えを返すように
教育することも可能なはず。
もっとも、その倫理観というのもあまり当てにならず。
異教徒は殺すべし、というのが最高に倫理的だと思っている人は、現在と過去の
総計だと、もしかしたら過去に存在した全人類における多数派かもしれず。