2022
08.09

「知ってるつもり 無知の科学」を読みました。

らかす日誌

暑い! 全くうんざりするほど暑い。現在(午後1時40分)、iPhoneによると、外気温は36℃。昼食を終えてパイプのために30分ほど外で過ごしたが、首に巻いたタオルがぐっしょり湿った。趣味を貫徹するにも忍耐力が要る。

その厚さの中、「知ってるつもり 無知の科学」(スティーブン・スローマン&フィリップ・ファーンバック著、ハヤカワ・ノンフィクション文庫)を読了した。皆様にも是非目を通していただきたい良著である。

何でも、認知科学という学問があるそうだ。「知る」とはどういうことなのかを解明しようという取り組みらしい。この本をまとめるほどの学識はないが、著者2人がまず強調するのは「知識の錯角」である。どうやら私たちは、本当はたいして知らないことについても

「俺は知っている」

と思い込んで疑わない生き物だというのである。

例示されている1つは、自転車の構造である。自転車を見たこともないという人は皆無だろう。ほとんどの人が便利な道具として乗りこなしたことがあるはずだ。
では、あなたは自転車の構造を知っているか? ほとんどの人が

「知ってるとも!」

と応えるだろう。だが、本当に知っているか?

リバプール大学の先生が、学生たちに自転車の絵を描かせた。正答率は半分程度しかなかった。残りの半分は、前輪と後輪の両方にチェーンをかけたり、ペダルをサドルとハンドルを結ぶフレームに取り付けたり。

「おっと、それじゃあ走れないよ」

「どうやってこぐつもり?」

といいたくなる絵を描いたそうなのである。さて、あなたは正確な絵を、あるいは正確に近い絵を描くことができますか?

私たちは、自分で知っているつもりであることも、実は余り知らない。

こんな例もあった(該当箇所を探したが見つけられなかった。よってうろ覚えのまま書く)。

これリンゴです。

これリンゴです。

「は」と「が」が違うだけの文章である。その違いをあなたは説明できますか?

というものである(さきほど、在処が見付かった。何と「解説」の中の1文である。本書の著者とは関係なかった)。多分私たちは、何となく知っている。知っているから、話すとき、書くときにはこの2つの文章を区別しているはずである。だが、この2つの文章、どう違うのだろう?

こうした実例を引きながら、著者たちは私たちは自分で思っているほど物知りではないことを証明し、では、そんな頼りない私たちが何故高度な文明を築くことができたのか、と話を進める。2人の結論は、

知識は個人の中にあるのではなく、コミュニティの中にある。

というものだ。今の複雑な世の中で、自分1人で全ての物事に通暁するのは不可能である。それなのに、人類は車を作り、飛行機で人を運び、とうとう人間を月にまで送り込んだ。個々人はたいした知識を持ち合わせていないのにそれができたのは、たくさんの人達がお互いの知識を利用し合ったからだというのである。

しかし、知識がコミュニケーションにしかないことの負の部分もある。物事の判断が、世の中の暗黙の合意(これもコミュニティの知識の1つだろう)に影響されることである。
選挙で1票を投じるとき、候補者たちが訴える政策を十分理解して判断している人が果たしてどれだけいるか。各候補者の政策を網羅した選挙公報を読みこなしているか? その公約が実現する可能性を考えたことはあるか。実現したとき、自分の暮らしや世の中がどう変わるかまで思いを馳せたことはあるか。それぞれの候補者の政治家としての普段の言動を何処まで知っているか。
ひょっとしたら、何となく、みんながそうしそうだから、と思って投票していないか?

まあ、私の紹介は行き届かない。是非書店で、あるいはAmazonで手に入れた頂きたい。

あ、1つだけ是非紹介しておきたい箇所がある。人間と人工知能の関係に触れた部分である。

システムの一部である人間の側に、テクノロジーが故障する事態への備えができていないと。大惨事が起こりかねない。
わかりやすい例を挙げよう。航空機の速度が飛行状態を維持するのに十分な揚力を生み出さなくなると、失速する。失速すると、航空機は落下する。失速から復活する最適な手段は、航空機の先端を下に向け、飛行速度が揚力を回復できるレベルに上昇するまでエンジンの出力を高めることだ。失速回復はパイロットの訓練生が飛行学校で習得する最も基本的な能力の1つだ。
2009年に海に墜落して228人の死者を出した、エールフランス447便のブラックボックスを回収した事故調査当局が衝撃を受けたのはこのためだ。問題のエアバスA330は失速し、上空から落下しはじめた。だが操縦士はなぜか飛行機の先端を下ではなく、上に向けようとした。なぜそんなことが起きたのか。2013年にアメリカ連邦航空局がまとめた報告書は、パイロットが自動操縦システムに依存しすぎたため、基本的な手動操縦能力を失ってしまい、不慮の事態に対処できなくなったと結論づけた。このケースでは乗務員が航空機が失速する可能性があることすら認識しておらず、それゆえに機器から発せられる危険信号も正しく解釈できなかった可能性がある。これは自動化のパラドックスの最たる例だ。航空機の自動化テクノロジーがあまりに高性能であったために、それが昨日しなくなったとき、操縦士たちは集団としてどうすればよいかわからなくなってしまった。

ここを読んでゾッとしたのは、いま進められている自動運転車が頭をよぎったからである。
レベル1からレベル5に分けられた自動運転車は、レベル5まで進化すればコンピューターが全ての運転操作を人に代わってやってくれる。目的地さえ入力すれば、自動的に目的地まで運んでくれる楽ちんシステムだ。そうなればバンドルやブレーキは不要で、車の中は応接室や寝室になるという人もいる。日本がレベル5達成の目標としているのは2025年。わずか3年後である。

だが、である。機械は必ず壊れる。機械であるコンピューターも必ず壊れる。壊れたとき、自動運転に慣れ親しんだ乗員は、事故回避措置を執れるのか? ましてや、ハンドルやブレーキが姿を消してしまったとしたら?

なるほど、認知科学とは面白い学問だなあ、と思った私であった。