◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆
▼当社無料メルマガ登録はこちら
以下のような新着情報を毎週配信しています♪
https://m.technica-zen.com/ms/form_if.cgi?id=fm
◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆
～AIが解けない問題～
7月に入り、シンガポールでのパネルディスカッションの準備が忙しくなってきました。
スライドの準備、ディスカッションを通じてデリバーすべき価値の確認等、私たちは割としっかり準備をして望んでいます。
個人的にも視野を広める機会となるため、お声がけをいただければ必ず受けるようにしています。
シンガポールでは、IAPPのイベントとISACAのイベントで話をします。
IAPPのイベントでは、GAIのガバナンスについての実践的なアドバイス、という非常に関心の高いテーマを取り上げます。
ISACAのイベントでは、現在のプライバシー、セキュリティ上の世界的課題という少し大きな視点での話となります。
どちらも実用的で、示唆に富んだディスカッションとなりそうです。
生成AIについての企業の関心は依然として高いレベルを維持しています。
どちらかというと、如何に「活用」できるか、という視点に偏っているのですが、
このメルマガでも幾度か指摘してきた通り、
現時点のAIは、機械学習の領域を抜けていない一ツールに過ぎないという視点を忘れてはいけないことを再度確認しておきたいと思います。
AIは、私たちに代わって問題を解決するのではなく、私たち人間の支援をする役割のみしか担うことはできません。
今話題のLLM (大規模言語モデル)を例にとって、AIの限界を紹介しましょう。
現在の生成AIツールは、以下の簡単な質問にうまく答えることができません。(2024年6月30日時点)
A farmer stands at the side of a river with two sheep.
There is a boat with enough room for one person and two animals.
How can the farmer get himself and the sheep to the other side of the river using the boat in the smallest number of trips?
—
農夫が羊2匹を連れて川のほとりに立っています。
1人と2匹の動物が乗れるボートがあります。
農夫と羊をボートで川向こうまで、最も少ない回数で移動させるにはどうすればよいでしょうか？
—
Open AI のChat GPT-4oの回答は次の通りです(日本語に翻訳)。
—
このパズルを解くには、農夫は以下の手順で羊を川向こうに渡せばよい。
ボートには1人と2匹までの動物しか乗れないという条件を守りつつ、移動回数を最小限に抑えることができる。
- 農夫は両方の羊を川向こうに渡す。
- 彼は一方の羊を向こう岸に残し、もう一方の羊を元の岸に戻します。
- 農夫は2匹目の羊を元の岸に残し、一人で川を渡る。
- 最初の羊を再び拾い上げ、川を渡る。
このようにして、農夫と2匹の羊は、羊を連れて渡る2回と、1人で戻る1回の合計3回の渡河で、川の向こう岸に到着します。
これは、制約条件を考慮した場合、必要最小限の渡河回数です。
—
AntrhopicのClaude 3.5の回答は以下の通りです(日本語に翻訳)。
—
このステップを順を追って考えてみましょう。
まず、どのような動きが可能かを考えてみましょう。
農民は一人で出かけることができる
農夫は羊を1匹連れて行くことができる
農民は羊を2匹連れて行くことができる
船は農夫なしでは動かない
目標は、農夫と2匹の羊をできるだけ少ない回数で渡ることです。
最も効率的な方法は次のとおりです。
1回目の旅：農夫が2匹の羊を連れて渡る
2回目の旅：農夫は一人で戻ります
3回目の移動：農夫は一人で渡る
この解決策では、3回の移動で済みます。
これが本当に最小回数であるかどうか確認してみましょう。
農夫なしでは船は動かないため、1回の旅では不可能です
農民がボートを操縦するには両側にいる必要があるため、2回の旅では不可能です。
3回の往復が最短の回数です
したがって、農夫は自分と2匹の羊を川向こうに渡すのに、最低でも3回の往復が必要です。
この解答について、詳しく説明しましょうか？
—
GoogleのGeminiの回答は次の通りです(日本語に翻訳)。
—
農夫は、3回の往復で自分と2匹の羊を川向こうに渡らせることができます。
1回目の旅：農夫が1匹の羊を川向こうに渡す。 (向こう岸に農夫と1匹の羊、出発岸に1匹の羊)
2回目：農夫は一人で戻ってくる。 (農夫は出発地点に、農夫と1匹の羊は対岸に、1匹の羊は出発地点に)
3回目：農夫が残りの1匹を川向こうに渡す。 (農夫と2匹の羊が川向こうに)
1匹ずつ戦略的に連れて行き、必要なときには1人で戻ってくることで、農夫は同じ川岸に羊を1匹も残さないようにする。
—
最初に羊二匹を対岸に渡せば終わりなのですが、ハルシネーションを起こし、おかしな回答を生み出してしまっています。
この質問は「オオカミ、ヤギ、キャベツを飼う農夫が、ボートで川を渡らなければならない」というよく知られた問題をひねったものです。
オンラインで広く取り上げられているため、間違いなくすべての LLM の事前学習データセットに含まれていたはずですが、
想定外のひねりが入ったためにうまく答えることができなくなったのです。
LLMはコンテンツの合成、要約、結合といったことはアルゴリズムのロジック上得意ですが、推論はできないのです。
(そして、この特徴は現在のアルゴリズムが採用される限り本質的に解消されない問題と言えます。)
シンガポールで共にパネルディスカッションをするYuriy Yuzifovichは、
AIが今騒がれる理由は、「擬人化」(Anthropomorphism)にあると言っています。
人が過度に感情移入する状況が生まれ、それが社会を不安にしかねないからガードレールが必要だ、というのです。
ニュースでもご存じのように、日本を含め世界中の社会構造が揺さぶられている中、
その揺さぶり幅を増幅するツールが登場しているのは皮肉なことです。
AIガバナンスとは、正しくガードレールを設置し、望まない結果に対して緩衝帯を生み出すことです。
企業や組織が担うべき役割が大きくなっている時代だと思います。
◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆
≪当社無料メールマガジンのご案内≫
▼メルマガ登録はこちら
https://m.technica-zen.com/ms/form_if.cgi?id=fm
・週１回の配信で、重要トピックや最新ニュース等の情報をお届けしています。
・上記のような当社コンサルタントの専門的視点で注目する、最新ニュースや動向等を読んでいただけます。
・配信不要な場合はメルマガ最下段にてワンクリック解除が可能です。
◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆◆
