テッド・チャンさん備忘録

「ChatGPTはWebのぼやけたJPEG」を読んで
(2023/4/17)

少し時間が経ってしまいましたが、テッド・チャンさんが"The New Yorker"に寄稿なさった記事がネットに掲載されていました。

ChatGPT Is a Blurry JPEG of the Web (The New Yorker)
https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web

◆ChatGPTって

公開されたのは2月で、わりとすぐ見つけることができたのですが、恥ずかしながらこれを読むまでChatGPTってよく知りませんでした。(^^;)　最近テレビでもよく報道されていますが、これを読んでいたおかげで（？）わりと冷静に聞くことができています。まだ実際に試したことはありませんが。（ちなみにLineもやりません。てか幸運なことに（？）やらずに済んでいます。ウラシマタロウですなー……）

しかし、つい先日にはOpenAI（ChatGPT開発元）のCEOが来日したそうで。いきなり総理大臣と面会とか報道されていて違和感ありまくりです。他の国での禁止とか警戒が報道されてただけに、「他で蹴られたから慌てて他の（そこそこ稼げそうな）市場を開拓に来ました」感がありありでなんだかなー……OpenAIからの提案やらそのほかの日本に対するお世辞（？）にも「舐められすぎじゃないのか日本？」という気持ち悪さを感じてしまいました。税金使って馬鹿なことしないでおくれよ～？

まあそれはともかく、チャンさんの記事はChatGPT自体に対する批判や警鐘というより、世間の幻想に対してもうちょっと現実的に受け止めようよ、という感じ……に思いました。シロートにもすごくわかりやすかったです。さすがIT業界の人ですね。「説明するのが好き」だとどこかで書いていらっしゃいましたっけ。

最初に出てくるエピソードがすごく衝撃で。デジタルのコピー機で不正確なコピーが出力されたというお話。それがデータの圧縮が「不可逆的」（データの損失があるので逆転プロセスで元に戻すようなことはできない）であるためだそうで。ChatGPTも「不可逆」タイプだそうで、それなのに精度が高く「見える」理由も解き明かしてくれています。

◆第一稿への不満がリライトを導く

でも一番自分に響いたのは、文章を書くことについて語られた以下の部分でした。拙訳ですがご紹介します。太字での強調は自分が加えたものです。（※この部分の前に、学生に小論文を書かせることの意義……題材をきちんと把握しているかどうかを見るだけでなく、自分の意見を表現する体験をさせている……というくだりがあります）

学校を卒業してしまえば、大規模言語モデルが提供するテンプレートを使っても差支えない、というわけではない。学生でなくなったからといって、自分の考えを表現する際の苦労は消えない——新しく下書きを始める時には、いつでもその苦労を味わい得る。時には独創的なアイデアを見つけるために、書くというプロセスが必要な場合もある。もちろん中には、「大規模言語モデルのアウトプットは人間が書くファースト・ドラフト（一番最初の下書き）とまったく見分けがつかない」と言う人がいるかもしれない。だが、これも表面的な類似だと思う。あなたのファースト・ドラフトは、「非の打ちどころなく表現された借りもののアイデア」ではない。「稚拙に表現された独創的なアイデア」なのだ。だからファースト・ドラフトには、あなたの漠然とした不満がまとわりついている。そこに表現されたものと、表現したいものとの距離に気づくのだ。リライトをする間、あなたを導くのはその不満であり、それはAIが作ったテキストを下敷きにした場合に欠けているものの一つだ。

（原文）And it’s not the case that, once you have ceased to be a student, you can safely use the template that a large language model provides. The struggle to express your thoughts doesn’t disappear once you graduate—it can take place every time you start drafting a new piece. Sometimes it’s only in the process of writing that you discover your original ideas. Some might say that the output of large language models doesn’t look all that different from a human writer’s first draft, but, again, I think this is a superficial resemblance. Your first draft isn’t an unoriginal idea expressed clearly; it’s an original idea expressed poorly, and it is accompanied by your amorphous dissatisfaction, your awareness of the distance between what it says and what you want it to say. That’s what directs you during rewriting, and that’s one of the things lacking when you start with text generated by an A.I.

…じつは長いこといじっている小説に苦労している最中でして、行きつ戻りつの繰り返しにゲンナリしていたところだったんですが……リライトのプロセスを具体的に、かつ前向きにとらえることができるようになりました。そうそう、まさにそんな感じですよね！　そう思えばこの過程こそが書く醍醐味だったんだよね、と今更ながら。"Writing is rewriting"と書いてたのは誰だったか忘れましたが、やはり実感としても真理ですね。

もちろんイッパツで完成形が書けちゃう人もいらっしゃるらしいですし、お仕事として量をこなす必要があれば、また少し違うはずです。（こう考えると、やっぱりチャンさんはいまだに自称の通り「日曜作家」のスタンスなのかな、と思ったりして）オリジナリティが求められるかどうかや、その度合いの違いでも「ChatGPT便利」と考えるかどうかが分かれそうな気がします。まあ好みの問題といえばそれまでですが。創作も何らかのガジェットを使うことに萌えを感じるケースはありますしね。

◆お得感と配信文化

でも、ChatGPTがもてはやされている背景には、たぶん「アウトプットを作り上げること」と、「自分の頭を通す・使うこと」が（普通はイコールですが）外注（？）できると「お得」、みたいな感覚があるんじゃないでしょうか。そして、「書く」という行為の内容も、チャンさんが想定しているような深みのある（？）もの以外にもあるわけですし。オリジナリティなんてかけらもいらないようなものが。そのへんが……なんか最近よく聞く「タイパ」？　その感覚と通底している気がします。「動画を早送りで見ること」程度の意味でしか捉えていませんが、映画を丸ごと味わわずにストーリーだけ把握できることを「お得」と感じるかどうか。

早送りで把握するのが「お得」に見えるのは、（映像に関しては）配信文化が普及したせいもあるんじゃないかなーと最近思います。自分は映像を配信で見るのはあまり（特に映画は）好きじゃないんですが、たまたま必要でアマゾンプライムに入ってる期間とか、YouTubeの動画を見るときとかは必然的にお世話になります。そういう時って「作品一本」という単位ではなく、もちろん内容の違いでもなく、データ量に比例してカネをとられてるって感覚が当たり前にありますよね。特にYouTubeは（広告収入のために）水増しされてるものも多い印象なので、核心部分を早送りで探すのが当然、となってしまう。

長く見ると「時間＝データ量＝お金」がかかる、ということに慣れてしまうと、自分の頭（≒自分の時間）を使う部分も少ないとお得、みたいな感覚が生まれるのは実感としてわかります。

それにしても、テクノロジーに貢献してほしいところって、自分の目にはもっと別のところなんですけどねー……。今問題になってる物流のドライバーさんの不足。低賃金の軽作業の多さ。介護などの重要で力もいることに従事する人材の不足。こういうところの「人を苦労から解放する」ために役立ってこそテクノロジーだと、古いSFの感覚で素人は思います。今はそれどころか、しわ寄せがどんどん人間の方に来ている感じもある。先端的なテクノロジーの開発は、「よりヒトの役に立つ・ヒトを楽にする」というより、「よりお金になる」が基準なのかしらん。（もちろんそうですよね！（泣））

◆オフラインの恩恵と未来予想図

今、じつはこのページはオフラインで作っています。このサイト自体が「Dreamweaver」という古いソフトで作ったものを維持しているので、完成してからアップロードする方式。使うのはこのコーナーを更新するときだけになってるんですが、すごく落ち着きます！こっちに戻ろうかなーなんて思いが頭をよぎったりして。更新作業に集中できて、しかも「楽しい」なんて久しぶりです。ノロマなので通信料がかさむ心配とか、「どこかから覗かれてるような」、脳みそに穴が空いてるみたいな感覚（そう感じるんです(^ ^;)）もないことが大きいです。接続するひと手間があるので、ネットサーフィンの誘惑にも負けにくい。あと、こんなことでも「自分の頭を使う」ことの気持ちよさがあります。配色や細かいところを試行錯誤するのがとても楽しい。

ブログを書くのに使っているbloggerも、現在のメインサイトに使っているJimdoっていうプラットフォームもそうなんですが、今はみんなオンラインで作業をするのが前提ですね。もちろん文章の下書きはオフラインでできますけど、仕上げはオンライン。「オンラインでならツールをタダで使わせてあげる（しばしばお試しで期限付き）」というのも多い。てかアドビなんかすっかりそういう道具になってしまいました。マイクロソフトもそちらに向かっている。使う間ずっと通信料がかかるし、なんか「ユーザーがお金を払い続けるサイクルに落とし込む」っていうIT企業さんの本音があまりにむき出しでイヤン、てな感じがします。ネットの恩恵はもちろんあるのですが、接続しないと何もできないのはなんとも不自由で、「支配されてる感」が心地悪い。（…昭和人なせいでしょうか？関係ない？(^ ^;)）

チャンさんの記事が出てからもう2カ月以上経ち、日々の報道を見てもChatGPTの精度は上がって（あるいは調整されて）いるようです。このスピードも怖いですが、本質的な問題は書かれている通りだと思いました。これを読んだおかげで（そしてこの記事を書くために）ChatGPT周辺の情報を渉猟できたのも、自分には刺激になりました。

全体を訳すのは問題ありそうなのでやめときます。そのうち公式の日本語訳が出るかな…？（あるいはもうどこかに？）でもこの進歩のスピードを見てると、あっという間にこの話題は古くなってしまうんでしょうね。

…大昔に「書物」が出来た時にも、「これに頼って記憶をしなくなるからけしからん」という批判があったらしいですよね。ChatGPTみたいなものも、当たり前にみんなが使いこなすようになるのかどうか……。ゆくゆくは「AIなしで文章を書く」「AIなしで絵を書く」なんてことが、「特技・趣味」とか特別な「DIY」になってたりして。（（笑）…と書こうとしたけどちょっと笑えない）

まあ消えた新商品なんて星の数以上にあるのでわかりませんが。SF的なガジェットにわくわくする気持ちもどこかにありつつ、進歩のスピードと「それが資本主義の枠組から一歩も出ていない」ことに、一抹の怖さも感じています。