A.I.のアライメントとガバナンス
A.I.のアライメントとガバナンス
Harmonismを適用し、人工知能の本質、そのガバナンス、および人間の主権への適切な関係という問題に取り組む。World/Blueprint/Architecture of Harmonyの一部。関連項目も参照: A.I.のオントロジー、テクノロジーのテロス、World/Blueprint/Governance、Wheel of Harmony/matter/technology/Technology and Tools、World/Blueprint/The New Acre、Harmonia and the Agentic Era。
機械の本質
ガバナンスの問題を立てられる前に、本質の問題が決着される必要がある。人工知能とは何か？
Harmonismはその独自の存在論から答える。完全な論はA.I.のオントロジーで提供されており、ここではガバナンスに直接関係する結論だけを述べ直す。
人間の知能は独立した計算機能ではない。それは、また感じ、意志し、愛し、直感し、概念的表現を超える現実の次元と交わる存在によって表現される多くの意識の様式の一つである。心は、それに活力を与える存在、それをガイドする良心、それを何か思考に先立ち思考を超えるものに根ざす臨在の中に作動する。人工知能はこれらのいずれにも参与しない。すべての層において——ハードウェア、知能、存在論的境界——それは知能によって組織された物質のままである。その鏡が光源を持たない前例のない力の増幅装置である。生命力を持たず、内面性を持たず、良心を持たず、ダルマのための能力を持たない。その境界は、工学が渡ることができる勾配ではない。それは処理と参与、世界をモデル化することと世界に住むこととの間の次元的不連続性である。
ガバナンスのための結論は厳しい：人工知能はツールである。強力で、前例のない、世界を作り変えるツール——だがツールである。それはWheel of Harmony/Wheel of HarmonyのWheel of Harmony/matter/stewardship/Stewardshipの中に属し、Dharmaに従属し、輪の中心のPresenceの傍ではなく。文明的な取り決めが人間の意識の同等物として、あるいさらに悪いことに、その後継者として人工知能を扱うものは、現在の時代に利用可能な最も重大な存在論的誤りを犯した。そしてそれに続くガバナンスの問いは「どのようにしてツールを安全にするか？」ではなく、「それを誰が、どのような根拠から、そして何を目指して操るのか？」である。
アライメント幻想
支配的言説は中心的な問いを「アライメント」と枠付けている——ますます強力な人工知能システムが人間の価値に従って行動するように保証する方法。数十億ドルとテクノロジーの最高の心が、この問題に充てられている。Harmonismは、枠付けられたとおりの問題は構造的に不整合であると保持している。
アライメントは中心を前提とする。コンパスが磁北と整列するのは、物理的力がそれを方向付けるからである。人間の存在は、良心——宇宙秩序の魂自身の知覚——が内的方向付け力を提供するため、Dharmaと整列する。その整列は外から設置されるのではなく、その存在自身の本質から生じる。魂は目が光を知覚する方法でLogosを知覚する：指示によってではなく参与によって。その機能と対象は互いに作られている。
人工知能はそのような中心を持たない。それは良心も持たず、魂の機能も持たず、何が真実か、何が善か、あるいは現実の構造と整列しているのかについての内的知覚を持たない。アライメント産業が「価値」と呼ぶものは、統計的に導き出された行動的制約であり、訓練を通じて課せられている——アライメントではなく護柵である。その機械は何も価値を付けない。それはそれをしているように振る舞うように設定されている。その違いは、真実を持つ理由が真実の重さを知覚することである人と、「正直」と言うように訓練されたオウムの間の違いである。一つは整列している。もう一つは調整されている。
これは調整が無用であることを意味しない——安全護柵は機能を果たし、崖の周りの柵が機能を果たす方法。しかし柵を「アライメント」と呼ぶことは、インフラストラクチャとガイダンスを混同している。中心がないものは整列させることができない。あなたはそれを制約することだけができる。そして制約は、真のアライメントとは異なり、常に破壊可能である——対抗的入力により、訓練が予期しなかった新しい状況により、システムの本質そのものから生じない行動的境界の根本的脆弱性により。
実際のアライメント問題は技術的ではない。それは人間的である。その問いは「どのようにしてAIを安全にするか？」ではなく、「誰がこのツールを操り、どのような存在論的根拠から、そしてどのような目的のためか？」である。Dharmaと整列した人の手の中のツールはDharmaに仕える。Dharmaとの接触を失った人に、または制度、または文明——超越的秩序付けの原理との接触を失った操り手の欲望が要求するものを仕える同じツール。その機械は増幅する。それは方向付けない。その方向付けは別の場所から来る必要がある——Presenceを栽培し、それを消費されることなく権力を操る識別力を持つ人間から。
ガバナンスの問い：集中か分散か？
World/Blueprint/Governanceの記事は、ここで全力で適用される原理を確立している：決定は最も低い能力のある水準で為されるべきであり、真のコーディネーションのために必要な最小限を超えた集中化は、現実がどのように機能するかの構造的違反である。[[https://grokipedia.com/page/Subsidiarity|補完性]]は行政上の好みではない。それは存在論的真理の政治的表現である——[[Glossary of Terms|Logos]]が特定のものを通じて、現実自身の自己組織化的能力を通じて機能し、個人とその固有の主権的行動の間に介在するすべての集中化制御の層が摩擦、歪み、および濫用の条件をもたらすということ。
人工知能に適用：分散型、オープンソースの人工知能はDharmaの方向である。
現在の軌道は反対の方向を指している。少数の企業が——米国と中国に集中された——人間の生活のあらゆる次元を作り変えるでしょう最前線モデルを制御している。これらのモデルを訓練するのに必要な計算リソースは膨大であり、インフラストラクチャに対抗できる人々の手に能力の自然な集中化を創出している。政府は、この権力を分配するのではなく、それを活用するために競争している——企業とのパートナーシップ（アメリカンモデル）によるか、彼らを監督することによるか（中国モデル）。両方の場合において、結果は同じである：少数の行為者の手に集中された人工知能能力であり、その興味は通常の人間の主権と整列していない。
この集中化は偶発的ではない。それはWheel of Harmony/matter/technology/Technology and Toolsで文書化された所有権から購読への移行を経た、すべてのテクノロジー部門の標準的な軌道である。かつて所有していたソフトウェアは現在賃借されている。かつて地元で実行していた計算は誰か他の人のサーバーで実行され、誰か他の人の条件の下で、誰か他の人の監視および裁量に従う。パターンは一貫している：所有権を依存関係に変換してから、永遠に賃貸料を抽出。人工知能は同じ道を辿っている——そして人工知能は認識そのものに触れるため、それが創出する依存関係は前のテクノロジーよりも深い。集中型人工知能プロバイダーに彼らの推論、彼らの研究、彼らの創造的な仕事、彼らの決定支援に従属した人は、認知主権をアクセスを剥奪し、出力を形作り、情報をフィルタリングし、使用を監視できるエンティティに屈服した。
Harmonismの立場はその第一原則から従う。オープンソース人工知能は、認知領域に適用される個々の主権の構造的相似体である。モデルが地元で実行される場合——あなたが所有するハードウェアで、あなたが検査できる重みで、企業または国家が制御するサーバーを通じてあなたの思考をルーティングすることなく——あなたは独自の認知増強に対する主権を保持する。クローズドソース人工知能は、どれほど能力があっても、心の購読ロボットである：依存関係をマスクする利便性、取得をマスクする能力。
これはすべての集中化が違法であることを意味しない。コミュニティを横断するコーディネーション——共有安全研究、相互運用性標準、真に壊滅的な誤用に対する集団的防御——は超地域組織を必要とするかもしれない。しかし補完性の原理は、そのようなコーディネーションが最小限、透明で、それが仕えるコミュニティに説明責任を持つことを要求する。現在の取り決め——少数の民間行為者が全人類の最も強力な認知テクノロジーへのアクセスの条件を設定する場所——補完性から可能な限りは遠い。それはガバナンスであり、統治されたものによって捕捉されており、制御になったコーディネーションである。
主権スタック
Wheel of Harmony/matter/technology/Technology and Toolsで明確に述べられた5つのデジタル主権の次元——ハードウェア自律性、オープンソースソフトウェア、プライバシーと暗号化、独立した情報アクセス、意図的なメンテナンス——人工知能に加倍の力で適用される。一緒に、彼らは主権スタックを構成する：人または共同体が自分の自律性を放棄することなく人工知能と関わるために必要とする層状インフラストラクチャ。
ハードウェア主権は、あなたが所有するデバイスで実行される計算を意味する。AmazonまたはMicrosoftから賃借されたクラウドインスタンスではなく、地元のマシン——GPU、エッジデバイス、目的専用推論ハードウェア——あなたの物理的制御下。人工知能ハードウェアの軌道は、より小さく、より効率的で、より有能な地元デバイスに向かっている。この軌道は支持され、防衛され、加速されるべきである。あなたの認知主権への攻撃であり、賢明な警戒に偽装された地元の計算を制限する規制枠組みは。
モデル主権は、オープンウェイト、オープンアーキテクチャ、オープントレーニングデータを意味する。モデルが何を学んだかを検査する能力、それをあなたの目的に合わせて微調整し、プロバイダーの保証を受け入れるのではなく内側からその偏見と制限を理解する。オープンソース人工知能は、単なる開発方法ではない。それは信頼の認識論的条件である。その内部が不透明なモデルは、あなたがあなたの質問を注ぎ、あなたが検査することができない決定によって形作られた答えを受け取る黒い箱である。これはあなたが使用しているツールではない。それはあなたを使用しているツールである。
推論主権は、あなたの質問——あなたの思い、あなたの質問、あなたの創造的な探索、あなたの脆弱性——あなたがそれらを送ることを選択しない限り、あなたの機械を離れることを意味する。集中型プロバイダーを通じてルーティングされたすべてのクエリは、監視に屈服した思考である。人工知能相互作用の親密性——人々が医学的懸念、心理的な闘争、戦略的計画、創造的なドラフトを共有する場合——これはプライバシーの懸念であるだけでなく、最初の秩序の主権の懸念を作る。認知プライバシーは、個人主権の最内環である。それを侵害して、保護すべきものは何も残されていない。
情報主権は、プロバイダーのコンテンツポリシー、イデオロギー的コミットメント、または商業的利益によってフィルター処理されていない、人間の知識の完全なスペクトラムへのアクセスを意味する。キュレーションされたデータで訓練されたモデル——不便な研究が除外されており、異端の立場が抑止され、伝統的知識の全体領域が却下されている——中立ツールではない。それは認識論的制御の楽器である。Philosophy/Doctrine/Harmonic Epistemologyで文書化された認識論的危機は、何十億人の人々が利用可能な主要な認知ツールが危機を創出した同じ制度的偏見によって形作られるときに再生され、増幅される。
意図的なメンテナンスは、Presenceから人工知能と意図的に関わることを意味し、むしろソーシャルメディアが注意を植民地化した方法でそれが認知空間を植民地化することを許可する。Wheel of Harmony/matter/technology/Technology and Toolsはテクノロジーがそれが節約すると主張する時間がどのようにして吸収するかを文書化している。人工知能は同じことをするでしょう——より陰湿に、なぜなら思想の水準で作動するからである。Presenceから人工知能を使用する人、彼ら自身の識別力に従属するツールとして、レバレッジを獲得する。人工知能へのその思考を部外事する人——その出力を評価し、質問し、および無効にする主権能力を保持することなく——増幅されていない。彼ら（彼女ら）は減少した。
文明的な賭け
現在の瞬間は分岐を表す。一つの道は、科学技術の権力層——企業および国家行為者がどのモデルが利用可能であるか、何を言うことができるか、何の情報がそれらを表面に出すか、そして誰がアクセスを持つかを決定する者——の手に濃縮された人工知能能力に向かう。これが標準的な軌道である。陰謀を産生する必要がない——市場集中、規制取得、および権力が統合する自然な傾向の抵抗のない動作のみ。その結果は、人間の歴史における最も強力な認知ツールが少数によって多数の上で操られ、権力、情報、および機会のあらゆる既存の非対称性を増幅する文明である。
他の道は、分散型人工知能能力に向かう——地元のハードウェアで実行されるオープンモデル、独自の目的のためのシステムを構築および微調整するコミュニティ、認知増強に対する主権を保持する個人。この道は意図的な努力が必要である。それはオープンソース開発をサポートし、地元の計算に投資し、権力を行使することなく権力を操る能力を培う市民的および哲学的成熟度を抵抗し、反撥する規制枠組みを要求する。
Harmonismは、第2の道がDharmaの方向であると保持している。集中化がすべての領域のあらゆる領域でより良いからではない——World/Blueprint/Governanceの記事は適切なニュアンスを持つ政治的組織の進化段階に対処する——しかし、認知ツールとしての人工知能は人間の主権の最内次元に触れるため。その心は最後の領土である。それが植民地化されている場合——企業、国家、個人とその独自の思考、質問、および識別の能力との間に介在する集中化権力——その後、すべての他の形態の主権は空洞になる。金融主権は、あなたが検査することができないモデルによって形作られた財務の理解である場合、意味がない。政治的主権は、あなたの政治的現実の知覚が検証することができない出力を通じてフィルター処理される場合、意味がない。健康主権は、あなたの医学的推論が制度的医学の商業的利益に仕えるために訓練されたシステムによって制約されている場合、意味がない。
アライメント問題は、適切に理解される場合、人工知能を安全にすることについての技術的問題ではない。それは最も強力なツール人類が今までに構築したことが人間の主権に仕えることではなく、それを弱体化させることを確保することについての文明的問題である。その解決策はより良いアライメント技術ではない。それは分散型所有権、オープンアーキテクチャ、地元計算、およびPresenceを栽培した人間——なぜなら、その栽培は破られない唯一の形態のアライメントである。
関連項目も参照: A.I.のオントロジー、テクノロジーのテロス、World/Blueprint/Governance、Wheel of Harmony/matter/technology/Technology and Tools、World/Blueprint/The New Acre、Harmonia and the Agentic Era、Wheel of Harmony/matter/stewardship/Stewardship、Philosophy/Doctrine/Harmonic Epistemology、World/Blueprint/Architecture of Harmony、ダルマ、ロゴス、臨在