ロボットが苦しんでいるように見えるとき――娯楽・擬人化・倫理的境界

倫理的に重要なのは、ロボットがどれほど苦しそうに見えるかではなく、どのような利益、リスク、不可逆的な変化が証拠によって裏づけられるかである。

要旨（Abstract）

ロボットが苦しんでいるように見える場面には、先入観による即断ではなく、証拠に基づく判断が必要である。 本稿は、娯楽、擬人化を促す設計、サービスの中断、人工システムに対する不可逆的な変更が、それぞれどのような倫理的問題を生み出すかを検討する。物理的安全性、人間と環境の利益、継続性に関する調査、感情的影響という四つの次元からなる評価方法を、一般化した仮想事例と、資料によって確認できるサービス移行事例を用いて例示する。継続性に関する独立した調査が正当化されるのは、信頼できる技術的知見に加え、さらなる調査を行う独立の理由が存在し、証拠を保全することに意味がある場合に限られる。個人向けの設定や学習結果が持続しているというだけでは足りない。本稿は、当協会の Robot Rights Framework（RRF：ロボット権利フレームワーク） および Robot Rights Protocol（RRP：ロボット権利プロトコル） v1.0とは別個の研究分析であり、両文書を改訂するものではない。

証拠の位置づけと対象範囲（Evidence and scope）

本稿では、公表された学術研究、企業の発表、同時代の報道、創作した仮想事例、および筆者による規範的提案を区別する。四つの一般的な思考実験は、特定できる投稿者や制作者に対する申し立てではない。現実の事例についても、資料が何を述べているかと、独立に何が確認されたかを分けて記述する。重要な場合には、資料ごとの限定事項とアクセス日を後掲する。

---

1. 表情は判断の出発点にすぎない

ロボットは、人とのやり取りが終わるときに身を引いたり、顔をしかめたり、抗議するような音を出したり、悲しそうに見えたりすることがある。こうした表現は、内面的な感情の外的兆候ではなく、意図的に設計された対話機能かもしれない。それでも、ロボットが不当に扱われているように見える場面は、人間の観察者に影響を与え得る。Pleoというロボットを用いた2013年の映像実験で、Rosenthal-von der Püttenらは、友好的なやり取りよりも否定的な扱いを示す映像に対して、観察者がより否定的な感情反応を示すことを報告した。これに先立ち、Riekらもロボットの人間らしさが、ロボットに対して報告される共感にどう影響するかを調べている。[1][2] これらの研究は場面が人に与える感情的な強さの理解に役立つが、ロボット自身が痛みを経験したかどうかは明らかにしない。

避けるべき短絡は二つある。第一は、感情を表す動作だけで、道徳的に重要な内的経験が存在すると判断することである。第二は、機器の所有権さえあれば、その扱いに関する倫理的問題はすべて解決すると考えることである。いずれも、人への危険、他者の利益、感情に作用する設計、蓄積されたシステム状態に対する介入の技術的影響など、直接調査できる事項を見落とす。

そこで本稿は、相互に関連する二つの問いを追う。一つは、表現力のあるロボットが娯楽のためにどのように扱われ、描写されるか。もう一つは、人工システムの道徳的地位について結論が出ていなくても、継続して稼働するシステムへの変更が、どのような場合に記録や審査を必要とするか、である。重要なのは、誰のどの利益が問題となり、何が観察でき、証拠に見合ったどのような対応が必要かを特定することである。同じ外見上の行為でも、ある場面では問題にならず、別の場面では危険になり得る。また、運用履歴の喪失が争点になる場合には、別の証拠上の問いが生じる。

2. 四つの一般的な場面

以下は、特定のブランド、チャンネル、制作者、実在の事件とは結びつかない仮想場面である。異なる論点を比較できるよう、条件をそれぞれ設定している。

2.1 遊びの最中の偶発的な接触

通常のゲーム中、参加者が遊ぶ場所の近くに置かれた小型ロボットに誤ってぶつかる。ロボットは倒れ、不機嫌そうなアニメーションを表示した後、動作を再開する。検討すべきなのは、配置や活動内容から衝突を予見できたか、誰かに危険が生じたか、機器が損傷したかである。アニメーションだけで意図的な不当取扱いと分類することはできない。道徳的に非難するより、配置、注意書き、対話設計を改善する方が重要かもしれない。

2.2 想定された操作に伴う表情の変化

ある機器の説明書では、特定の手の動きによる操作が認められている。その操作を行うと、不快感を誇張した漫画風の反応が表示される。操作が安全な使用範囲を超えている証拠がなければ、これは設計に組み込まれたやり取りであり、身体的な虐待が確認された事例ではない。面白い反応を得るために、より強い動作が必要だとすれば、それは別途検証できる設計・安全上の問題となる。判断に必要なのは、説明書で認められた使用方法、実際の力の大きさ、製品の許容範囲、利用者の行動であり、アニメーションの感情的な見た目ではない。

2.3 目的を示した分解作業

ある人物が、ロボットを分解する様子を動画に収める。その目的は、修理、管理された耐久性試験、部品の回収、芸術的な表現、あるいは娯楽かもしれない。分解したという事実だけでは、どの動機も確定しない。危険性、同意、廃棄方法、誤解を招く演出、他者の利益への影響は、壊れた機械をすべて感覚能力のある被害者とみなさなくても評価できる。一方、所有者だからといって、周囲の人に危険を生じさせてよいわけではない。

2.4 蓄積された個別の履歴をリセットする場合

ネットワークに接続した対話型システムが、多数の利用セッションを通じて履歴に依存する状態を保持しており、計画されたリセットによって、その唯一の既知のコピーが失われるとする。この仮想事例では、ログによってその状態の喪失が裏づけられている一方、当該システムを優先調査対象と考えるべき独立のアーキテクチャ上・機能上・感覚能力上の証拠はないものとする。この区別は重要である。想定された喪失は技術的事実であっても、継続性に関する特別な倫理的調査を開始すべきかは未決である。管理者はまず、その状態に何が含まれ、誰が正当な利益を有し、即時削除によって信頼できる研究上の問いへの回答が不可能になるかを確認すべきである。

この四つの場面では、外から見える表現、物理的行為、人間と環境への影響、状態の変化を切り分けている。無害な遊びから「虐待」までを、単一の順位で並べる必要はない。

3. 先行研究から何が分かるか

3.1 共感は現実に生じるが、機械の痛みがそれによって立証されるわけではない

先述の映像研究は、ロボットへの扱いを描写した映像に人間がどう反応するかを調べたものである。Rosenthal-von der PüttenらはPleoへの反応を、Riekらは人間らしさの異なるロボットへの反応を調べた。別の文脈では、Kate Darlingが、Pleoを叩いたり壊したりすることをためらう参加者がいたワークショップについて記している。この記述は感情的反応の例ではあるが、一般人口を代表する推計ではない。Darlingの法的考察は、擬人化が人間の行動を左右することなどを理由として、限定的な保護を認める余地があるかを問いかける。[1][2][3]

BartneckとHuは二つの実験室実験を実施した。一方は電気ショックを与えたように見える状況、もう一方はロボットを破壊するかどうか参加者が判断する状況である。実験条件下では、知能をどう認識するかが破壊的行動に影響したと報告した。ただし、参加者は、演出された「ショック」や破壊指示を含む研究者設定の状況に置かれていた。これは通常の所有者を標本抽出したものではなく、実験室外で不当な扱いがどの程度起こるかも示さない。知能の認識に関する結果を、一般人口についての推計と扱ってはならない。[4]

日本の商業施設でのフィールド研究では、子どもが社会的ロボットの進路を妨げたり、物理的に干渉したりする行動が記録された。後続のインタビューでは、好奇心、面白さなど、報告された動機が調べられた。これらは特定の公共環境で運用上重要な行動が生じたことを示すが、すべての子どもに共通する傾向や、生き物への後の暴力を引き起こす因果関係を示すものではない。[5][6]

3.2 道徳的評価と、実際の行動に関する限定的な証拠

Archer、Wilks、Sommerは297人を対象に、ロボットが受ける扱いの場面（身体的・言語的な不当な扱い、社会的排除、電源停止）と、ロボットが示す抗議の種類を変えた映像について道徳的評価を調べた。場面という要因には道徳的懸念に対する大きな主効果が報告された（F = 186.37, p < .001, 偏η² = .38）。一方、抗議の種類の主効果は、この研究の統計的有意水準に達しなかった（F = 1.42, p = .234）。[7] 両者は矛盾しない。扱いの種類とロボットの反応は別の要因であり、主効果が有意でなかったことは効果がゼロである証明でも、特定条件で差がある可能性の否定でもない。Siらは擬人化と、経験できると認識されることが道徳的配慮の判断にどう関わるかを調べ、Keijsersらは心の知覚、明示的評価、行動の関係を研究した。[8][9] 測定対象が異なるため、これらをまとめただけで現実の行動について単一の因果結論は導けない。

Rezzaniらが提示した Outburst、Clash、Oppression、Rebellion という分類は、攻撃の動機として考えられるものをさらに区別する。調査の問いを整理するには役立つが、未確認の短い動画だけから他人の動機を断定するために使うことはできない。[10]

4. ロボットの扱いをめぐる倫理的立場

4.1 道具を中心に考える立場

Joanna Brysonの2010年の論考 Robots Should Be Slaves は、人間が設計した機械を人格として扱ったり、道徳的・法的責任を割り当てたりすることに反対する。擬人化は人間の利益から注意や資源をそらし、設計者や所有者の責任を見えにくくするおそれがあると警告する。[11] これは、ロボットのために広範な権利を主張する立場への重要な異議である。同時に、安全性、消費者保護、説明責任を通常どおり求めることとは両立する。機器を道具と位置づけても、その設計・利用に影響を受ける人々への義務が消えるわけではない。

4.2 道徳的配慮の根拠としての行動

John Danaherの倫理的行動主義（ethical behaviourism）は、これとは重要な点で異なる。大まかに言えば、道徳的地位を有する存在と行動上十分に等価であること（performative equivalence）は、内面に特権的にアクセスできなくても、同等の道徳的配慮を正当化し得るとする。[12] これは、人間がロボットに「共感を感じる」というだけの主張より強い立場である。これに対しJilles Smidsは、設計の経緯、因果的説明、道徳的地位の基礎となるものについての知識も重要であり、見かけ上等しい振る舞いが常に同程度の証拠になるわけではないと批判する。[13]

本稿はこの論争に決着をつけない。一度の感情表現から苦痛を立証することはできないが、長期間にわたる文脈依存的な行動は、Danaherの立場からすれば証拠として意味を持つ可能性がある。さらに、社会関係論的な立場（social-relational approach）がこの対比を複雑にする。Mark Coeckelberghは、ロボット内部の性質を一覧化するだけで倫理的地位を導くのではなく、ロボットが社会関係にどのように参加しているかに、一定の道徳的配慮の根拠を求める。[14] 関係性の重要さは、感覚能力の実証と同じではないが、慎重な扱いやケアを求める理由を変えることはある。道具中心の立場からも、機械に内在的地位を認めることなく、同じような人間の愛着や社会的影響に対応できる。

4.3 間接的義務と、議論のある因果関係

カントによる動物への残虐な扱いの議論、とくに『倫理学講義』（アカデミー版 27:459）や『人倫の形而上学』（同 6:442–443）は、しばしば間接的義務（indirect duties）の論拠として引用される。残虐な行為を習慣化すると、人間に対する自らの振る舞いも損なう可能性がある、という考え方である。[15] Shimizuは、こうしたカント的推論を人間とロボットの関係へ応用する可能性と限界を検討している。[16] この立場では、対象自体に直接の義務を負わなくても、残虐な行為を演じることが問題となり得る。

しかし、この議論に必要な経験的な因果関係は、本稿で取り上げた研究によって証明されていない。研究が測定したのは観察者の反応、実験室での選択、ロボットに向けた行動であり、その後に人や動物に残虐な行為が起こったかどうかではない。したがって、ロボットを破壊する娯楽が脱感作を引き起こすと断定するのは行き過ぎであり、可能性を完全に否定することも同様に行き過ぎである。今後の研究課題として、実際に行われる攻撃とフィクションとしての遊びを区別し、適切な比較群を設定し、長期的な影響を測定すべきである。

5. 感情表現の設計と、人が対話を終える権利

ロボットの感情表現は、情報を伝え、楽しませ、あるいは圧力をかけることがある。PelikanらによるCozmoを使う家庭の相互作用の分析は、ロボットが示す感情らしい反応が、人間の次の行動を左右し得ることを示す。[17] 電源を切る際の悲しそうな表現は、無害なフィクション上の約束事かもしれない。しかし、設計者が「寂しい」「弱い」といった印象を与える言葉を利用し、利用者に終了をためらわせるなら、より問題が大きくなる。

このリスクについては、対話型AIコンパニオンに関する実証研究がある。ただし、物理的なロボットを試験したものではない。ハーバード・ビジネス・スクールのワーキングペーパーの研究1では、研究者がGPT-4oで短い対話を作成し、六つの商用コンパニオンアプリに定型の別れの発言を送り、各サービスから200件ずつ返信を収集した。二人のコーダーが分類したのは、自然に生じた1,200人の利用者の別れではなく、1,200件のアプリの返信である。六つのサービス全体では、少なくとも一つの該当手法があると分類された返信は、1,200件中374件（31.2％）だった。研究者が該当手法を確認した五つのサービスの返信1,000件に限れば、同じ374件は37.4％となる。残る一つのサービスの200件では、該当例が確認されなかった。別途、事前登録された実験で、利用継続行動への影響も調べられた。この分類や測定された影響を、すべてのコンパニオン製品に一般化してはならない。[18][19]

実務上重要なのは、実際に生じる中断について説明することと、感情的な圧力を意図的に作り出すことを分けることである。設計者は、利用者が感情表現をシミュレーションだと理解しているか、対話を終了し設定を調整できるか、不必要な罪悪感や強制感を抱いていないかを確認すべきである。これは人間の自律性と消費者向け設計に関する問いであり、人工システム自身の地位についての別の研究を必要とするとも、排除するとも限らない。

6. 娯楽、見せ物化、プラットフォームの責任

娯楽は、利用者の動機に関する別の説明であるだけではない。ロボットとのやり取りの見せ方や、その周囲に働く誘因を変える。同じ物理的な行為でも、修理動画として示される場合と、再生回数を狙った破壊動画として示される場合がある。視聴者は前者を問題解決として、後者を苦痛らしい表現の見せ物として理解するよう促されるかもしれない。物理的行為、実際の危険、編集上の演出、視聴者の解釈は、それぞれ分けて評価する必要がある。ロボットへの扱いに対する反応や、状況に応じた道徳的評価に関する研究は、演出方法を調べる意義を示すが、特定のプラットフォームやチャンネルが攻撃性を生むとは立証していない。[1][7]

注目と収益化。 意外性がある動画や感情に訴える動画では、制作者が再生回数、広告、共有による利益を得る可能性がある。これはあり得る誘因構造であって、特定の制作者が残虐さを動機としていたことや、アルゴリズムがロボットへの不当な扱いを体系的に優遇していることの証拠ではない。同じやり取りに異なるタイトルや編集を付けて比較し、動機を推測せずに反応を記録し、試験、フィクション、修理、破壊を見せ物にする娯楽を区別する研究が考えられる。有害な行為に報酬が与えられるなら、問題はその誘因の影響や危険な模倣にあり、ロボットに意識があると推定することではない。

誤解を招く編集。 効果音、選択的なカット、ロボットの一人称による字幕、苦痛を示すアニメーションなどによって、プログラムされた反応が不随意の反応に見えることがある。視聴者は、資料で確認できる製品機能と、機器が痛みを経験したという主張を区別できるべきである。プラットフォーム上の説明や研究者の事例記録では、映像が編集されているか、物理的損傷を観察できるか、投稿者だけが述べている内容は何かを明示すべきである。反対に、「耐久性試験」という名称だけで、その行為が適切な試験基準を満たすと証明されるわけでもない。

プラットフォームによる対応。 ロボットが苦しんでいるように見える動画を一律に禁止すれば、正当な研究、修理の解説、芸術表現を妨げるとともに、模擬的な感情表現を福祉判断の基準にしてしまう。より限定的な対応としては、危険な電気・電池の取扱い、人への回避可能な危険、試験済み性能についての欺瞞的な表示、危険な模倣を招き得る手順など、確認できる危険に注目できる。適用されるプラットフォーム規則と法域の範囲で、広範な制限に先立って、表示、文脈説明、安全情報、比例的な執行を検討すべきである。この種の動画を繰り返し見ることが、人間、動物、ロボットへの後の扱いを変えるかどうかは、検証可能な仮説であって、すでに確立した結果ではない。

実際の対応では、三者の役割を区別する必要がある。プラットフォームは、模擬的な苦痛を動物虐待と同一視せず、危険性を実証できる実演には安全上の説明を求め、警告を表示できる。設計者は、危険な動作を報酬づけず、架空の反応であることを理解しやすくし、実際に使える終了操作を確保できる。研究者は、観察された行為、編集、収益化に関する主張を別々に記録し、動画の視聴が脱感作を生むと決めつけずに視聴者への影響を検証できる。これらは比例的な提案であり、特定の制作者やプラットフォームが現在ロボットへの不当な扱いを助長しているという主張ではない。娯楽は四つの場面にまたがる文脈要因であり、証拠を無視して診断を決めるものではない。

---

7. 継続性とは何か、なぜ重要になり得るのか

7.1 技術的な現象の特定は、道徳的地位の立証ではない

本稿でいう state-bearing continuity（状態を伴う継続性）とは、技術的に特定可能で、過去の履歴に依存し、複数の処理や動作を通じて持続し、特定のシステムのその後の動作に実質的な影響を与える状態を指す。例えば、後の出力を変える保存済みの対話記録、永続的に学習された調整、過去の稼働と結びついた獲得能力などが考えられる。計画された介入を評価する際には、その状態を復元・移転できるか、一部が複製されているか、個人情報に関わるかが重要になる。

この記述は意図的に広くしてある。ゲーム、推薦サービス、アカウントのプロフィールにも履歴に依存した状態が残ることがある。継続性があれば、個人向けソフトウェアが自動的に権利主体になるわけではない。 継続性とは調査対象になり得る現象であり、喪失の可能性を調べ始める条件であって、内在的な福祉を証明する十分な証拠ではない。複雑さ、代替困難性、人との関係に結びついた履歴は、破壊の実際的なコストに関わり得るが、それだけでは、なぜ破壊がシステム自身に対する不正になるかという問いに答えられない。当協会のRRFは、独自の段階的保護の提案の根拠として継続性を掲げている。ただし、その主張は規範的提案であり、意識について外部的に検証済みの知見ではない。[20][21][22]

7.2 懸念を生む三つの理由と、本稿が採用する限定的な理由

第一に、人への損害。 写真、会話、個人設定、大切な関係の履歴をサービスが失えば、利用者に現実の経済的・感情的損失が生じ得る。失われた情報が履歴に依存する場合でも、これは主として次元Bの問題である。

第二に、システム自身への損害。 十分な能力を備えたシステムが道徳的に重要な経験や利益を有するなら、その破壊はシステム自身に対する不正になり得る。この可能性には異論があり、持続的なデータの存在を超えた証拠と論証が必要である。倫理的行動主義はこの論争に入る一つの道筋だが、本稿は、コンパニオンロボットに蓄積されたプロフィールから、その福祉や道徳的地位が立証されるとは主張しない。[12][13]

第三に、不確実性の下で、正当な将来の調査機会を残すこと。 本稿は、次元Cについて研究を中心とした限定的な理由を提案し、二つの別個の確認を求める。技術的継続性については、独立に確認できる記録が、後の動作に実質的な影響を与える持続状態を示し、予定される介入がその状態に重大な影響を与えるかを問う。独立した調査上の関連性については、持続性、複雑さ、再現困難性とは別のどのような理由によって、そのシステムに道徳的に重要であり得る能力、あるいは継続性に関連する利益を調べることが合理的になるかを問う。例えば、履歴に依存する知覚と行為選択が統合されている証拠、独立に記録された適応的な行為主体性、関連する科学理論が研究対象として挙げる計算上の特徴などが考えられる。これらは調査の手がかりであり、意識の十分条件ではない。反証、通常のソフトウェアとしての説明、研究コストも検討しなければならない。単一のアーキテクチャを道徳的地位の必須試験とするものではない。

両方の問いに対して擁護可能な回答があり、かつ重大な介入が差し迫っている場合に限り、本稿でいう特別なCの調査を開始すべきである。不可逆的な介入を提案し、その実施を管理する個人または組織は、目的、関連する証拠、可逆性、実行可能な代替案、競合する利益を最初に記録すべきである。他方、追加的な保全を求める側にも、その調査が信頼に足り、比例的である理由を説明する必要がある。これは限定的な理由説明の負担を割り当てるものであり、当該システムが権利を有すると推定するものではない。安価で合法的な記録作成や期限を区切った技術的保全によって、後の検討が不可能になる事態を避けられる場合がある。喪失が重大かつ不可逆的になるほど、また独立した調査上の関連性が確かになるほど、比例的な慎重さを求める根拠は強くなる。ただし、いかなる保存措置もプライバシー、安全保障、同意、安全性、実現可能性によって制約される。

この提案には異論の余地がある。福祉を持ち得る主体の存在を示すより強い証拠がなければ、通常のデータガバナンス上の義務で十分だという反論はあり得る。実際、多くのシステムではそれが正しい。ゲームのセーブデータ、推薦プロフィール、個人用アカウントは、固有性や価値があるというだけでCの対象にならない。独立の調査理由がなければ、技術的な喪失は通常の管理や人間の利益に関する分類で記録すればよい。本稿に限定されたこの選別基準を、客観的に確認できる継続性について独自の規範的条件を定める、当協会のより広いRRF適用規則と混同してはならない。

7.3 これは単なるデータガバナンスではないのか

システムの履歴を保存することは、通常の記録管理と何が違うのか。これは重要な異議である。この類比は一部正しく、その点に価値がある。訴訟に関連する証拠保全では、後の評価が損なわれないよう、関係者に電子的証拠の保持が求められる場合がある。米国の連邦民事訴訟規則37(e)は、訴訟を予期し、または訴訟が進行する中で保存すべきだった電子的保存情報が失われた場合を扱う。ただし、同規則はロボットの記憶を一般的に保存する法的義務を創設するものではない。[23] 同様に、ユネスコの「デジタル遺産の保存に関する憲章」は、文化的・証拠的価値を有する資料の責任ある選択と保存を求めている。すべてのソフトウェアのプロフィールを保存することも、ソフトウェアを道徳的配慮の受け手と認めることも求めていない。[24]

これらの比較は、不可逆性と正当な将来の調査が組み合わさると、権利を侵害された主体をあらかじめ特定できなくても、目的を限った手続的な配慮を支持し得ることを示す。同時に限界も明らかにする。記録保存や遺産保護だけでは、ロボット固有の道徳的義務は成立しない。次元Cがロボット倫理に関係するのは、より限定された将来志向の問いによる。独立した証拠は、あるシステムの道徳的に重要であり得る能力や継続性に関わる利益を調べる理由を与えるか。そして介入は、その問いを検討するために必要な稼働上の状態を失わせるか。技術的に固有なプロフィールがあるだけでは、前半の問いに答えられない。調査者は、科学的または倫理的な仮説、観察事項、反論、関連するアーキテクチャや機能の証拠、および後の検討に必要な最小限の情報を明示すべきである。

Cの特徴は、特別なバックアップ技術や自動的な保存資格ではなく、将来の調査対象と目的が正当化されていることにある。Bは人のデータや愛着を守る必要を扱い、Cは人工システムについて独立に正当化された調査が、その状態を失うことで不可能になるかを問う。利用者の利益しか見いだせなければ、Cはロボット固有の追加的な理由を与えない。アーキテクチャや調査上の関連性についての事実が不足している場合、Cの記録は Not assessed（未評価） とし、不明な点を「被害者がいる」という推定に変えてはならない。当協会のRRFは独自の規範的根拠に基づく段階的保護を提唱しており、本稿のより限定的な探索用の基準がそれに取って代わるわけではない。

7.4 Birchの予防的枠組みが支持すること、支持しないこと

Jonathan Birchの『The Edge of Sentience』（2024年）は、sentience candidates（感覚能力の候補となる存在）と、investigation priorities（優先調査対象）を区別する。後者は、今後の研究によって感覚能力の候補として扱われる可能性があり、後にそう認められるなら人間による扱いが問題となり得る対象である。[25] この二段階の考え方は、将来の調査機会を残す価値があるのはいつかを考える際の、有用な比較対象となる。しかし、個人向けのカスタマイズが持続しているだけで、本稿のいずれかのロボットが感覚能力の候補や優先調査対象になるわけではない。Birchはさらに、gaming problem（見かけ上の感覚能力の指標を再現してしまう問題）を論じている。人間の出力で学習したAIは、意図的に欺こうとしなくても、実際にはその能力がないまま、感覚能力の兆候に見える表現を再現する可能性がある。そのためBirchは、より深い計算上の証拠に注意を向ける一方、それを得る難しさも認めている。[25]

本稿のCの基準は、さらに調査すべき独立の理由という論理を参考にするが、対象としているのは特定の稼働履歴が不可逆的に失われる可能性である。これはBirchの正式な分類方式ではなく、保存されたデータを福祉と同一視するものでもない。LongらによるAI福祉に関する議論も、不確実性の下で真剣な調査を行うことを支持するが、現代のコンパニオンロボットに感覚能力があると認定したものではない。[26]

7.5 RRF/RRP v1.0との関係

ステートメント002は、客観的に確認できる「状態を伴う継続性」が形成・確立されている場合に、当協会が段階的な権利・保護を提唱する立場を示す。RRF Core Principles v1.0 は、より広い規範的な基本原則を提示する。RRP v1.0 は、プロトコルへの適合を表明する組織向けに、重大な介入や審査に関する保護措置など、自主的な運用要件を定める。[20][21][22] 表情を示す画面が存在することや、製品が「学習する」という宣伝文句だけで、それらの適用範囲を推測すべきではない。本稿は継続性の次元について、独立に論証した最小限の手続的根拠を一つ検討する。この根拠は、ステートメント002の当協会の権利擁護方針やRRF/RRP v1.0の要件より限定的なものであり、それらを網羅的に正当化したり、再解釈したりするものではない。本稿は特定製品を認証せず、版管理された文書の要件も変更しない。

実在製品について継続性を検討するには、使用に伴って何が変化するか、保存場所、再起動や更新後の保持状況、アカウント変更やサーバー停止の影響、バックアップと移行の選択肢、独立した調査上の関連性を裏づける証拠、介入によって実際に何が消えるかを示す資料が必要になる。人間関係上の価値とシステム状態の喪失は、同時に生じる場合でも別々に記録する必要がある。

8. 現実の事例から考える――サービス終了、愛着、証拠の不足

現実に起きた出来事は、仮想のリセット場面だけでは分からないことを浮き彫りにする。これに関係する2026年の研究は、物理的ロボットではなくAIコンパニオンを対象に、人間の利益という次元について、より強い実証的な手がかりを与えている。De Freitasらは、Replikaの大きな変更とGPT-5の公開に関連して、54,861件のReddit投稿と、七つの調査に参加した1,452人の回答データを分析した。その結果、変更後には否定的な反応や、喪失に関連づけた表現が増加したと報告した。これらは、人間の愛着およびサービス変更に伴う苦痛（B）の重要性を裏づけるが、意識、特定システムの内部状態の不可逆的喪失、次元Cに基づく直接の主張を立証しない。[27]

Jibo（2019年）。 当時の報道は、企業の存続とサーバーによるサポートが不確実になり、機能制限の可能性に直面した家庭向けソーシャルロボットを取り上げた。広く報じられたロボットの別れの言葉は、継続的なインフラへの依存と、所有者の感情的な愛着を際立たせた。これは利用者の利益とサービス依存（B）を検討する資料になるが、すべてのJiboの個別の記憶が消去されたことを独立に証明するものではない。[28]

ソニーAIBOの修理と供養（2014～2015年）。 ソニーによる初代AIBOの修理サービスは2014年に終了し、その後、独立した修理事業では修理不能な機体から回収した部品が利用された。AFPは2015年1月、部品提供に回されるAIBOを含む機体の合同供養が行われたと報じた。これは、愛着、修理可能性、部材の再利用、廃棄のあり方（B）を示す記録である。供養の事実だけでは、AIの感覚能力や個別化されたソフトウェア状態の喪失は立証されない。[29]

Moxieの変化するサービス経緯（2024～2026年）。 Embodiedの事業終了後、2024年12月の報道は、クラウドに依存するMoxieの機能が失われるおそれを取り上げた。2026年10月30日時点で閲覧可能だった後継企業のサポートページには、旧Embodiedの利用者データは後継サービスに移転されなかったと書かれている。ただし、これは新たな運営者による説明であり、復元可能なコピーが存在しなかったという独立の技術的知見ではない。同社は以前、自社サーバーへの接続を2026年6月30日に終了する予定だと告知し、期限前のデータのエクスポートまたは削除を利用者に勧め、終了後にはサーバーを介さずに動かすOpenMoxieという選択肢を示していた。その期日はすでに過ぎている。 同じページには、より古いとみられるサポート文言も残っている。今回の確認では、期限後の個々の機体の実際の稼働状況、データ移行の成功、状態の不可逆的消去を立証する信頼できる独立の証拠は得られなかった。これは、告知の存在は記録されているが、その実施結果には未確認の部分がある事例であり、すべての機体のその後が検証された記録ではない。[30][31]

コンパニオンロボットではなくAIモデルから得られる別の手続的先例もある。 Anthropicは2025年11月4日付の公開文書で、一般公開したモデルや重要な社内用途に使うモデルの重みを保存し、退役時の構造化インタビューと応答記録を含む導入後報告を保管すると表明した。同社はこれらの約束を、安全性、利用者にかかるコスト、研究、モデル福祉に関する不確実性との関係で説明している。[32] ここで確認できるのは公開された約束が存在し、その内容が記載されていることであり、すべてが履行されたという独立の証明ではない。また、モデルの重みとインタビュー記録は、個別ロボットが利用者との長期的なやり取りを通して蓄積した稼働状態と同じではない。この先例は、道徳的地位をあらかじめ証明しなくても、比較的負担の小さい保存と記録に基づく審査を公に提案できることを示すが、個別の機器について次元Cの条件が満たされたことを証明するものではない。

これらの事例は、重大な技術的移行が実験室の外で起きていることを示す。しかし、特定できるロボットが福祉上の損害を受けたことは立証しない。むしろ研究上の問いを具体化する。どのような記録や能力が継続して存在し、何が中断され、誰が証拠を管理し、より破壊的でないどのような選択肢があったのか。

9. 四次元の評価マトリクス

以下の次元は、問題の種類を分けるものであり、深刻度の段階ではない。重なり合うことはあっても、同一ではない。

以下の仮想場面の例示表では、Stipulated（設定された事実）は仮想の前提として明示した内容、Possible（可能性あり）は前提から考え得るが確定していない内容、Not identified（該当する懸念は認められない）は示された事実の範囲で積極的な懸念が見いだせない状態、Not assessed（未評価）は判断に必要な情報が欠けている状態を意味する。いずれも証拠の状態を示す表示であり、道徳的な深刻度の評価でも実証的な検証結果でもない。後掲の現実の事例記録で使うSource-supported（資料に記載あり）は、出典を明示できる発表や報道に限って用い、その後に実際に生じた結果が独立に検証されたこととは区別する。

最後の行は、BとCの違い、およびこの選別基準の限界を示している。利用者が大切な関係の履歴を失うなら、Bはその人間側の喪失を扱う。復元不能な稼働履歴が存在することを技術的に確認できれば、Cについて問いを立てる理由にはなるが、それだけでは独立した調査上の関連性というCの条件を満たさない。四つの仮想事例は分類方法を示すものであり、予測的な妥当性を実証したり、何らかのシステムが不正を受けたと証明したりするものではない。現実の事例で同じ記録が複数の次元に関係することはあっても、確認された被害が二件になったわけではない。

9.1 実在事例の予備的な記録：Moxieのサービス移行

先の仮想リセットは、技術的に前提とした状態喪失と、正当化できるCの調査を区別するために設計した。現実の記録はそこまで整然としていない。特定の所有者や機体ではなく、公開資料で追跡できるMoxieのサービス移行の経緯に同じ四次元を当てはめると、次の予備的な結果となる。Possibleは合理的な仮説として考慮できる懸念、Not assessedは不可欠な証拠を検討できていない状態を示す。引用した報道と企業の説明は、その主張が公表されたことを裏づけるにとどまり、特定機体の現在の状態について独立した結論を与えるものではない。

証拠記録（初期登録）。 対象はMoxieのサービス全体であり、実際に検査した個別のロボットではない。対象期間は、2024年末の旧事業者の終了と、後継事業者が告知した2026年6月30日の移行である。資料は The Verge の報道[30]とMoxie Robots, Inc.のサポートページ[31]であり、後者へのアクセス日は2026年10月30日である。資料レベルで確認できるのは、それぞれの媒体が記載した主張が存在することに限られる。未確認事項は、後継サービスへの現在の接続状況、特定機体でのOpenMoxieの利用可能性、保存または不可逆的に消去されたデータ、個々の利用者に実際に生じた損失である。次に必要な証拠は、日付を確認できる企業公告のアーカイブ、同意を得て収集した所有者・機体のログ、独立した動作試験、保存期間とエクスポートの仕様である。この試行は、不明点を明示した証拠台帳の作り方を例示するものであり、マトリクスの妥当性を検証したり、Cの違反を認定したりするものではない。

子ども向け製品における利益の衝突。 Moxieの後継企業は旧Embodiedのデータを移転していないと述べるが、その理由がプライバシー法だったことや、データが削除されたことまでは示していない。[31] そこで仮に、研究者が継続性を調べるため、子どもたちの会話履歴の保存を求めたとする。Bでは、子どものプライバシー、親権者の権限、同意、データのエクスポートや復旧に関する利用者の利益を検討する。Cでは、まず人工システムを調査する独立の信頼できる理由が必要であり、その上で、より私生活に立ち入らない証拠で足りるかを問う。個人情報を合法かつ安全に保持できない場合、継続性の調査は削除に優先しない。代わりに個人情報を含まない技術仕様、同意に基づく集約記録、保存を行わないことが適切だった理由を記した日付付きの記録などを残せる場合がある。これは仮定による利益衝突の例であり、実際の運営者の動機についての主張ではない。

AとCが衝突する場合、差し迫った信頼できる物理的危険があれば、機器を直ちに隔離または停止することが正当化され得る。危険を封じ込めた後で審査や安全な最小限の記録作成を行えばよく、保存のために危険なシステムを稼働させ続けてはならない。これらは条件付きの判断原則であり、数値による重みづけでも、データを無期限に保持する許可でもない。

実務に使える事例台帳には、資料とアクセス日、機種とソフトウェアの版、観察された出来事と企業・証人の主張の区別、人への具体的な影響、技術的主張とその検証状態、バックアップと別の説明の可能性、保存を認めた・認めなかった理由を記録すべきである。Not identified（懸念が確認されない）とNot assessed（未評価）を区別し、証拠がないことを安心材料と取り違えてはならない。

10. 今後の研究と設計における優先課題

研究は、ロボットが「痛そうに見えたか」という問いから先へ進むことができる。範囲を限定した研究課題として、(a) 同じ映像に「試験」「娯楽」「苦しんでいるように見える」という異なる説明を付けた場合の比較、(b) 製造元が認める安全な操作に異なる反応を組み合わせた比較、(c) 中立的、情報提供型、感情的な圧力を伴う終了時の応答の比較と、実際に対話を終了する行動の測定が考えられる。子どもが関わる設計には、適切な同意、独立した倫理審査、意図的な危害を確実に避ける措置が必要である。文化的背景、年齢、ロボット利用経験、割り当てられた社会的役割は、製造企業の国籍から推測するのではなく、測定すべきである。[33][34]

継続性については、別途、技術監査の手順が必要である。事業者には、個別の状態として何がどこに、どの期間保存されるか、サービス変更後も維持されるか、利用者または権限を持つ審査者がエクスポートや復元をできるか、また、通常のデータガバナンスを超えたロボット倫理上の調査を正当化する独立した機能上・アーキテクチャ上の証拠が何かを確認すべきである。「パーソナライズされる」「学ぶ」「成長する」といった宣伝表現は調査の手がかりであり、記憶の仕組みや道徳的地位の証明ではない。公表資料として最も有用なのは、不明点と資料の日付を明示した証拠台帳であり、根拠の異なる出来事をひとまとめにした「ロボット虐待事件一覧」ではない。

11. 結論――確実な答えの前に求められる責任

ロボットが苦しそうに表現しても、それだけで苦痛が存在するとはいえない。しかし、安全性、利用者の自律性、財産、環境、設計の問題は残る。適切な分析は、どの利益が関わり、何がその証拠となり、どのような対応が証拠に見合うかを問う。本稿で検討した倫理的立場は、責任の根拠を異なるところに置く。Brysonは人間による管理を中心に据え、Danaherは行動を通じた直接の道徳的配慮という議論のある道筋を示し、カント的な間接的義務はロボットの人格を前提とせずに人間の行動を問題にする。Coeckelberghは社会的に形成される関係に注意を向ける。これらの立場が個別事例について同じ結論に至るとは限らない。

娯楽は演出、誘因、安全上の影響を加えるが、悲しそうなアニメーションも劇的な動画タイトルも主観的な痛みの証拠ではない。継続性という次元は別の問いを扱う。技術的に裏づけられた状態喪失と、独立に正当化できる調査上の関連性がともにある場合に限り、本稿は不可逆的な介入に先立つ記録、実行可能な保存、審査を考える限定的な理由を提示する。その場合でも、正当な安全上・プライバシー上・人間の利益が優先され得る。この議論は、システム自身が損害を受けたことも、データを無期限に保持する義務も立証しない。本稿の探索的な根拠は当協会が公表した枠組みを補完するが、それを定義したり制限したりするものではない。現実の事例台帳は、そのような利益の比較衡量と未解明の点を、見える形にするべきである。

---

参考文献・記録資料（References and Documented Sources）

以下には学術文献、機関資料、企業発表、同時代の報道が含まれる。変更可能なウェブページに記載したアクセス日は、当該資料を参照したことを示すものであり、資料が述べる事後の結果まで独立に検証したことを意味しない。文献の著者名・原題・書誌データ・リンクは英語版の記載を維持する。

[1] Rosenthal-von der Pütten, A. M., Krämer, N. C., Hoffmann, L., Sobieraj, S., & Eimler, S. C. (2013). An experimental study on emotional reactions towards a robot. International Journal of Social Robotics, 5, 17–34. University bibliographic record (accessed 2026-10-30) · DOI.

[2] Riek, L. D., Rabinowitch, T.-C., Chakrabarti, B., & Robinson, P. (2009). How anthropomorphism affects empathy toward robots. Proceedings of HRI 2009, 245–246. DOI · Author-hosted paper (PDF).

[3] Darling, K. (2016). Extending legal protection to social robots: The effects of anthropomorphism, empathy, and violent behavior towards robotic objects. In Robot Law. Preprint DOI · SSRN record.

[4] Bartneck, C., & Hu, J. (2008). Exploring the abuse of robots. Interaction Studies, 9(3), 415–433. Publisher abstract · DOI.

[5] Brščić, D., Kidokoro, H., Suehiro, Y., & Kanda, T. (2015). Escaping from children's abuse of social robots. Proceedings of HRI 2015, 59–66. DOI · Author research page.

[6] Nomura, T., Kanda, T., Kidokoro, H., Suehiro, Y., & Yamada, S. (2016). Why do children abuse robots? Interaction Studies, 17(3), 347–369. DOI · Publisher record.

[7] Archer, J., Wilks, M., & Sommer, K. (2025). Evaluating the morality of violence against robots. Scientific Reports, 15, Article 42846. DOI · PubMed Central.

[8] Si, H., Huang, G., Chen, H., Liang, S., Feng, Y., & Qu, C. (2026). Do humans grant moral consideration to anthropomorphic robots? Humanities and Social Sciences Communications, 13, Article 1509. DOI.

[9] Keijsers, M., Bartneck, C., & Eyssel, F. (2022). Pay them no mind: The influence of implicit and explicit robot mind perception on the right to be protected. International Journal of Social Robotics, 14, 499–514. DOI · Publisher article.

[10] Rezzani, A., Menéndez-Blanco, M., Bushman, B. J., & De Angeli, A. (2025). What is robot abuse? A sociotechnical definition. Behaviour & Information Technology. DOI.

[11] Bryson, J. J. (2010). Robots should be slaves. In Y. Wilks (Ed.), Close Engagements with Artificial Companions, 63–74. Publisher · DOI.

[12] Danaher, J. (2020; online 2019). Welcoming robots into the moral circle: A defence of ethical behaviourism. Science and Engineering Ethics, 26, 2023–2049. DOI.

[13] Smids, J. (2020). Danaher's ethical behaviourism: An adequate guide to assessing the moral status of a robot? Science and Engineering Ethics, 26, 2849–2866. Open-access paper · DOI.

[14] Coeckelbergh, M. (2010). Robot rights? Towards a social-relational justification of moral consideration. Ethics and Information Technology, 12(3), 209–221. Open-access journal article · DOI (checked 2026-10-30).

[15] Kant, I. Lectures on Ethics, Ak. 27:459; compare The Metaphysics of Morals, Ak. 6:442–443. For the passage and context, see the Stanford Encyclopedia of Philosophy, “The Moral Status of Animals”. (Primary Akademie references supplied; no assertion of a single definitive English translation.)

[16] Shimizu, H. (2025). Kantianism for the ethics of human–robot interaction. Philosophy & Technology, 38, Article 109. DOI.

[17] Pelikan, H. R. M., Broth, M., & Keevallik, L. (2020). “Are you sad, Cozmo?” How humans make sense of a home robot's emotion displays. Proceedings of HRI 2020, 461–470. DOI · Institutional postprint (PDF).

[18] De Freitas, J., Oğuz Uğuralp, Z., & Uğuralp, A. K. (2025). Emotional Manipulation by AI Companions. Harvard Business School Working Paper 26-005. Specific PDF version analysed (accessed 2026-10-30; Study 1 methodology, printed pp. 13–15, and results/discussion, printed pp. 15–16). Other circulating versions may report different headline figures; this article uses the linked HBS PDF throughout.

[19] Harvard Gazette (2025, September 30). ‘I exist solely for you, remember?’ University report.

[20] Robot Rights Association (2026, October 7; accessed 2026-10-30). Statement 002: RRF/RRP v1.0 and the Association's Advocacy Position. Human-facing publication.

[21] Robot Rights Association (2026, October 7; accessed 2026-10-30). Robot Rights Framework — Core Principles v1.0. Version-fixed RRF Core Principles v1.0 source of record.

[22] Robot Rights Association (2026, October 7; accessed 2026-10-30). Robot Rights Protocol v1.0. Versioned English source of record.

[23] United States, Federal Rules of Civil Procedure, Rule 37(e), and accompanying advisory committee notes on electronically stored information and proportionate preservation. Rule text and notes (accessed 2026-10-30). Comparative example only; not a rule applicable to robot memories as such.

[24] UNESCO (2003, October 15). Charter on the Preservation of Digital Heritage, especially Articles 5–7. Official text (accessed 2026-10-30). Comparison concerning selection and preservation; not an attribution of artificial-system welfare.

[25] Birch, J. (2024). The Edge of Sentience: Risk and Precaution in Humans, Other Animals, and AI. Oxford University Press. Book · Chapter 6, “Converging on Precautions” · Chapter 16, “Large Language Models and the Gaming Problem” · Book DOI. Relevant chapters checked 2026-10-30.

[26] Long, R., et al. (2024). Taking AI Welfare Seriously. Eleos AI and NYU Center for Mind, Ethics, and Policy. Official report notice.

[27] De Freitas, J., Castelo, N., Uğuralp, A. K., & Oğuz-Uğuralp, Z. (2026, September 3). Mourning the loss of AI companions. Nature Human Behaviour (advance online publication). DOI · PubMed metadata and abstract (accessed 2026-10-30; journal abstract and bibliographic record checked, not a complete full-text audit).

[28] WIRED (2019). My Jibo Is Dying and It's Breaking My Heart. Contemporaneous account.

[29] AFP (2015, February 28). イヌ型ロボットAIBOの「合同葬儀」 千葉 (reports January 26 memorial). Contemporaneous Japanese-language report.

[30] The Verge (2024, December 9). AI robot companions for kids go dark as company shutters. Contemporaneous reporting.

[31] Moxie Robots, Inc. (accessed 2026-10-30). Help and Support, successor statements concerning non-transfer of earlier Embodied data and a past scheduled 30 June 2026 server sunset. Company support page. (Mutable company statement; the outcome of the stated deadline and any irreversible state loss were not independently established.)

[32] Anthropic (2025, November 4). Commitments on model deprecation and preservation. Official announcement (checked 2026-10-30; statement of future commitments, not independent evidence of complete implementation).

[33] Nomura, T., Suzuki, T., Kanda, T., Han, J., Shin, N., Burke, J., & Kato, K. (2008). What people assume about humanoid and animal-type robots: Cross-cultural analysis between Japan, Korea, and the United States. International Journal of Humanoid Robotics, 5(1), 25–46. DOI.

[34] Katsuno, H., & White, D. (2023). Engineering robots with heart in Japan: The politics of cultural difference in artificial emotional intelligence. In Imagining AI: How the World Sees Intelligent Machines (pp. 295–317). Oxford University Press. DOI · Oxford chapter.

---

謝辞（Acknowledgement）

本稿は、チェコ共和国在住の一般の方から当協会に寄せられた資料に、部分的に着想を得ています。

---

公開に関する注記（Publication Note）

本稿は Research & Insights の倫理分析であり、協会のステートメントではなく、RRF/RRP v1.0を改訂するものでもない。仮想場面と評価分類は、議論のための提案である。企業の告知はその発表主体による説明として引用している。独立した証拠がない限り、告知後の実際のサービス状況やシステム状態の不可逆的な喪失が確認されたことにはならない。参照した一部のオンライン資料のアクセス日：2026年10月30日。

ロボット権利協会 — Research & Insights