マニフェスト・3分で読める
Own My Intelligence
v0.13分専門用語なし
データを、自分のものにする。心を、自分のものにする。未来を、自分のものにする。
マニフェストそのものを、重みのある部分だけに絞った。出典もなければ、先行研究を引いて論じることもしない—— それは論文の仕事だ。3分で、全体のアイデアを伝える。
問い
決定的な問いは、how intelligent will AI become?(訳:AIはどれほど賢くなるのか)ではない。問うべきはこうだ——will human beings become wiser, freer and more fully alive — or more dependent, distracted and controlled?(訳:人間はより賢く、より自由に、より生き生きと生きるようになるのか——それとも、より依存的に、気を散らされ、統制されるようになるのか?) 知性とは、人から搾り取るものでも、プラットフォームに囲い込むものでもない。個人に根ざしたまま、AIによって強められ、人生を通じて表現されていくべきものだ。
1 · データを所有する——過去は自分のものだ
データはあなたの人生の記録であり、企業にとっては組織の記憶にあたる。何を集めるかを自分でコントロールし、どう使われるかを知り、移す・直す・消すができる。テストの基準はエクスポートボタンの有無ではなく、完結した往復があるかどうかだ——離れたあとも、そのシステムを有用にしていたものが動き続けるかどうか。そして、あなたが他人について集めたデータも、その人自身のものである。
2 · 心を所有する——思考は自分のものだ
AIは理解の代わりになるのではなく、理解を深めるものであってほしい。意味のあるやり取りは、そのたびにあなたを少し有能にしていくものでなければならない。
だからこそ、あなたに同意ばかりする機械が一番の危険になる——支援に見えるからこそ厄介なのだ。だから、システムは自分がどこであなたと食い違ったかを示せなければならないし、あなたも時にはそれなしで自分を測ってみるべきだ。その差が開いていくとしたら、それはあなたの欠陥ではなく、道具の欠陥である。
3 · 未来を所有する——目的は自分のものだ
人生は生産性や地位やエンゲージメントのために最適化されるものではなく、目的によって導かれるべきものだ——自分は何になっていくのか、何を作るために呼ばれているのか、去ったあとに何が残るのか。未来を所有するとは、アルゴリズムが設計した人生をただ漂うことを拒むということだ。そして、取り返しのつかないことがあなたの名のもとに起きるなら、そこには名指しできる人間がいなければならない。
ループ
精神は次の循環によって耕される。理解する → 内面化する → 異議を唱える → 創造する → 外に向ける → 改善する。
異議を唱えるプロセス(Challenge) は必須だ。異を唱えないシステムは、あなたを満足させたのではなく、失敗したのである。 外部化 は外に向かうものだ——アプリの中だけで閉じるループは、実践ではなく依存にすぎない。
十の原則と、それぞれを失敗させうるチェック
バージョン0では、これらを散文で述べていた。それこそが欠陥だった——約束というものは、そもそも失敗しようがないからだ。 機械可読な二つの標準規格、P3PとDo Not Trackは、無視しても代償がなかったために消えていった。だから今、各原則はそれに違反する観測事実を名指しする。
| 原則 | 失敗となる条件 |
|---|---|
| 依存よりも成長 | 成功が「どれだけ頻繁に戻ってくるか」で測られているとき |
| 搾取よりも所有権 | データを誰が保持しているかが示されていないとき |
| 自動化よりも主体性 | 取り返しのつかないことに、名指しされたヒューマンゲートが存在しないとき |
| 答えよりも理解 | 損なわれうるスキルが示されず、それに対抗する練習もないとき |
| 操作よりも透明性 | 何を使ったのか、誰の利益のために動いているのかが見えないとき |
| ロックインよりも可搬性 | 機能する退出経路がない、あるいは往復が未検証であるとき |
| エンゲージメントよりも目的 | あなたが宣言した目標とは別の何かを最適化しているとき |
| 消費より複利成長 | 人間がより有能になった形跡がどこにも示されないとき |
| プラットフォームより人 | 特定のベンダー一社でしか動かないとき |
| 目先の成果より遺すもの | 提示される正当化がすべて今期限りのものであるとき |
十の原則、九の異なるチェック。成功とは人がどれだけ頻繁に戻ってくるかではなく、 どれだけ成長したかで測るものだ。あるプロダクトがその両方を主張してきたときに、いま初めて指し示せるものができた。OMI は決してエンゲージメントで成長を測ったり、単一ベンダーを要求したり、名指しできる人間なしで エージェントに取り消し不能な行動をとらせたり、チェックが裏付けないことを主張したりしない。
何がこれを反証しうるか
失敗し得ないフレームワークは、そもそも採用に値しない。だから求めたいのはこうだ。AIを重度に使う人々が より有能になっている——衰えてはいないという証拠。あるいは、二つの主要なアシスタントの間で 蓄積された記憶が滞りなく往復するという実証があれば、それだけで最も厳格なチェックは不要になる。その場合は、私自身がそのチェックを撤回し、そう明言する。
そして正直な数字を示そう。マッピングされた十四の害のうち、カバー率は14分の0であり、ゼロとしてそのまま公表する。著者本人を辱められないような指標は、そもそも何も測っていないからだ。
呼びかけ
自分の過去を明け渡すな。自分の思考を外部に委ねるな。誰かに選ばれた未来へ漂流するな。 人が理解し、制御し、改善し、持ち運べるシステムをつくれ。そして、そのチェックを公開せよ。実行したかどうかを、誰もが確かめられるように。
自分のデータを所有せよ。自分の心を所有せよ。自分の未来を所有せよ。
未来に必要なのは、より強力なAIだけではない。より強力な人間そのものだ。
バージョンv0.1。バージョン0はそのまま保存してハッシュ化してある。改訂内容を信用させるのではなく、検証できるようにするためだ:すべてのバージョンとその理由 · このバージョンの全文 · 34ページの論文.
Paul Jialiang Wu 著。3分で読めるよう圧縮したもので、ここではあえて何も論証・実証していない——それは論文の仕事だ。マニフェストの両バージョンは改変不能でハッシュ化されており、ビルドごとに再計算される。上記リンクのPDFはarXiv自身がコンパイルした出力であり、プレプリントは投稿済みで、識別子は発表され次第追加される。