[リストへもどる] [返信 ]  [新着記事] [最新50] [ワード検索] [過去ログ]

記事閲覧・返信


タイトル Re^7: 突然のラーメンネタ
投稿日: 2024/12/29(日) 01:30
投稿者: としき
参照先http://toshiki.la.coocan.jp/
 番 号 11811    11806 番 konno さんへのコメント    コメント数 1

> 古の人工無能と原理は同じというのはある意味驚きですね。

ある意味では驚き、ですが、別の角度から見るとまったく驚きもなくて。
なぜというに、同じ原理でも極端に規模を大きくすると全く別物に見える、という
ことはたまに聞く話。松下幸之助の水道哲学も似たようなもの。

> 一見もっともらしい文章が出てくるのに、その情報が本当なのかどうかわからない

これは、AIだからといって過剰に信用を寄せてしまっているだけのような気がする。
というか、人間相手であっても、初見初対面の相手を過剰に信用してしまい、結果
として詐欺にあって大金を巻き上げられたり、虚偽の陰謀論に染まってしまったり、
フェイクニュースを拡散してしまったり、といった話を最近よく聞く。
なんだろう、最近の多くの人、他人を信じすぎじゃない、と思う。
なぜそんなに簡単に信用できるのだろう。
騙すほうの技術が上がってきた、というのもあるのだろうけど。
だから

> 論文などに使うには結局情報源を確認しないといけないというのは危うい技術

全く同感ですが、AIに限らずネットに乗っかっている情報を簡単に引用して論文
を仕立て上げるたわけ者も多いので、生成AIだけを危険視するのも変な話だと
いう気がしています。
Wikipediaだって100%正しいわけではなのですから。
一応、Copilotでは、回答には必ず情報源のリンクも合わせて掲載してくれるので、
改めて探し回らなくても良い、という点は親切。もっとも、そのリンクすら確認
しようとしない人も多いと思う。例えば私だって、ラーメン屋関係をリサーチして
いた時の最後のほう、もはや疲れてきて、全く情報源を確認しなくなったし。

> AIが反乱するかもって

AIに自律動作を許せば、それは反乱の恐れもあるでしょう。
HAL9000もそうですが、8ビットパソコンの時代、1980年ごろの「ウォーゲーム」
という映画にも、しっかり描かれています。
だけど、人間は楽をしたがるから、きっとAIにまかせっきりにしてしまうと思う。
とはいえ、これも「人間対コンピュータ」という構図を描くとそうなんですが。
「人間対コンピュータ(の向こうの人間)」という構図はよくある。
ネット炎上なんかはまさに後者の例。
そして、こちら側の人間の立場に立つと、インターフェース部分は結局コンピュータ
ですし、受けるダメージも似たようなものだし、やっぱり新しい問題ではないような
気もする。同じ問題が形を変えただけ、という意味で。
また「人間対コンピュータ(のアルゴリズムを作った人間)」という考え方をすれば
これはやっぱり相似形。
幸い、今の生成AIのアルゴリズムは、もはや造った人間の手を離れているというか、
逆に暴走しているような気もしなくもない。だけど、例えば、SNSとか動画サイト
なんかで同じような種類の情報ばかりが延々と垂れ流されてくるというアルゴリズム
に汚染された人間は実際に多い模様。


> もう既にめちゃくちゃな回答する事例が沢山出ているようで。

もう直っているか、まだ直っていないか。
私が試したものでは、Copilotに「『ん』で終わる日本の現存の市」を尋ねるという
問題。数ヶ月前、「横浜市」という答えが返ってくると話題になったので試して
みたのですが、確かに「横浜市」も返ってくるし、他にも「南アルプス市」なんて
のも返ってきた。
なんでやねん。

> 倫理観などを植えつけられれば良いかと思ってましたが

かつて、MSの作ったAIのTayというヤツは外部から操作されて暴言を吐くように
学習してしまったということなので、逆を考えると、倫理的な答えを返すように
教育することも可能なはず。
もっとも、その倫理観というのもあまり当てにならず。
異教徒は殺すべし、というのが最高に倫理的だと思っている人は、現在と過去の
総計だと、もしかしたら過去に存在した全人類における多数派かもしれず。

   - No.11811 一括表示へ   -   コメント元:11806 一括表示へ  - soft


- 関連一覧ツリー (先頭の番号をクリックするとツリー全体を一括表示します)
11780.突然のラーメンネタ - としき としき 24/12/25-01:58
 ┣11782.Re: 突然のラーメンネタ - 文太 24/12/25-10:53
 ┃┗11784.Re^2: 突然のラーメンネタ - konno 24/12/25-20:51
 ┃ ┗11785.Re^3: 突然のラーメンネタ - 文太 24/12/25-21:30
 ┣11783.Re: 突然のラーメンネタ - konno 24/12/25-20:12
 ┃┗11786.Re^2: 突然のラーメンネタ - 文太 24/12/25-21:31
 ┃ ┗11790.Re^3: 突然のラーメンネタ - konno 24/12/27-00:57
 ┃  ┗11794.お腐海 - 文太 24/12/27-14:22
 ┃   ┗11797.Re: お腐海 - konno 24/12/27-23:50
 ┃    ┗11802.Re^2: お腐海 - 文太 24/12/28-13:31
 ┃     ┗11807.Re^3: お腐海 - konno 24/12/28-22:26
 ┃      ┗11808.Re^4: お腐海 - 文太 24/12/28-23:33
 ┃       ┗11810.Re^5: お腐海 - としき 24/12/29-01:30
 ┃        ┗11813.Re^6: お腐海 - 文太 24/12/29-09:12
 ┃         ┗11814.Re^7: お腐海 - としき 24/12/29-11:05
 ┃          ┗11815.Re^8: お腐海 - 文太 24/12/29-14:15
 ┃           ┗11816.お腐会? - konno 24/12/29-20:23
 ┃            ┗11817.Re: お腐会? - 文太 24/12/29-22:24
 ┃             ┗11821.Re^2: お腐会? - としき 24/12/30-15:17
 ┃              ┗11823.Re^3: お腐会? - 文太 24/12/30-18:15
 ┃               ┗11825.ミニオフ - konno 24/12/30-23:59
 ┃                ┣11826.Re: ミニオフ - 文太 24/12/31-00:23
 ┃                ┃┗11827.「VZ35周年オープンソース化記念」新年会 - konno 24/12/31-10:29
 ┃                ┃ ┗11828.Re: 「VZ35周年オープンソース化記念」新.. - めざら 24/12/31-13:52
 ┃                ┃  ┣11829.Re^2: 「VZ35周年オープンソース化記念.. - キャロル 24/12/31-14:48
 ┃                ┃  ┃┗11831.Re^3: 「VZ35周年オープンソース化記念.. - konno 24/12/31-15:01
 ┃                ┃  ┗11830.Re^2: 「VZ35周年オープンソース化記念.. - konno 24/12/31-14:54
 ┃                ┃   ┗11834.Re^3: 「VZ35周年オープンソース化記念.. - としき 24/12/31-15:31
 ┃                ┃    ┗11835.Re^4: 「VZ35周年オープンソース化記.. - キャロル 24/12/31-15:41
 ┃                ┃     ┗11836.Re^5: 「VZ35周年オープンソース化記.. - 文太 24/12/31-18:23
 ┃                ┃      ┗11837.Re^6: 「VZ35周年オープンソース化.. - としき 24/12/31-18:41
 ┃                ┃       ┗11838.Re^7: 「VZ35周年オープンソース化.. - キャロル 24/12/31-19:55
 ┃                ┃        ┗11839.Re^8: 「VZ35周年オープンソース.. - 文太 24/12/31-20:12
 ┃                ┃         ┗11841.Re^9: 「VZ35周年オープンソース.. - konno 24/12/31-20:59
 ┃                ┃          ┗11842.Re^10: 「VZ35周年オープンソー.. - キャロル 24/12/31-21:30
 ┃                ┃           ┗11843.Re^11: 「VZ35周年オープンソ.. - konno 24/12/31-22:01
 ┃                ┃            ┣11844.Re^12: 「VZ35周年オープンソ.. - 文太 24/12/31-23:34
 ┃                ┃            ┗11845.Re^12: 「VZ35周年オープンソ.. - としき 24/12/31-23:54
 ┃                ┗11833.Re: ミニオフ - としき 24/12/31-15:31
 ┗11787.Re: 突然のラーメンネタ - としき 24/12/26-00:11
  ┗11789.Re^2: 突然のラーメンネタ - konno 24/12/26-23:53
   ┗11791.Re^3: 突然のラーメンネタ - としき 24/12/27-01:00
    ┣11792.Re^4: 突然のラーメンネタ - としき 24/12/27-12:04
    ┃┣11793.閑話休題 - 文太 24/12/27-14:13
    ┃┗11796.Re^5: 突然のラーメンネタ - konno 24/12/27-23:19
    ┃ ┗11801.Re^6: 突然のラーメンネタ - としき 24/12/28-03:07
    ┗11795.Re^4: 突然のラーメンネタ - konno 24/12/27-22:46
     ┗11800.Re^5: 突然のラーメンネタ - としき 24/12/28-03:07
      ┗11806.Re^6: 突然のラーメンネタ - konno 24/12/28-21:49
       ┗11811.Re^7: 突然のラーメンネタ - としき 24/12/29-01:30
        ┗11818.たぶんAIの話 - 文太 24/12/29-22:30
         ┗11820.Re: たぶんAIの話 - としき 24/12/30-15:17
          ┗11824.Re^2: たぶんAIの話 - 文太 24/12/30-22:03
           ┗11832.Re^3: たぶんAIの話 - としき 24/12/31-15:31
            ┗11840.Re^4: たぶんAIの話 - 文太 24/12/31-20:57
             ┗11851.Re^5: たぶんAIの話 - としき 25/01/01-20:11
              ┗11857.Re^6: たぶんAIの話、ではない - 文太 25/01/02-22:33
               ┗11868.Re^7: たぶんAIの話、ではない - としき 25/01/05-11:17

- - 返信フォーム (この記事に返信する場合は下記フォームから投稿して下さい)[引用無し]
おなまえ 
Eメール 
タイトル 
メッセージ auto soft pre(図表 ※折り返しません)
 参照先 
 暗証キー (英数字で8文字以内)
 プレビュー          

- 以下のフォームから自分の投稿記事を修正・削除することができます -
   処理   記事No   暗証キー
    [ページトップへ] [管理用]