rén gōng zhì néng人工智能jìng sài竞赛yǔ与ān quán安全
AI競争と安全性
本站: 原文:
朗读 · AUDIO
HSK 等级高亮 · Highlight by HSK Level
měi guó美国zhèng fǔ政府xī wàng希望kuài sù快速fā zhǎn发展rén gōng zhì néng人工智能，rèn wéi认为lǐng xiān领先qí tā其他guó jiā国家shí fēn十分zhòng yào重要，dàn但yī xiē一些rén gōng zhì néng人工智能gōng sī公司de的fù zé rén负责人hé和yán jiū rén yuán研究人员què却yāo qiú要求fàng màn放慢sù dù速度，jiā qiáng加强guǎn lǐ管理。
アメリカ政府はAIを急速に発展させ、他国に先んじることが非常に重要だと考えています。しかし、一部のAI企業の責任者や研究者は、開発の速度を落とし、管理を強化するよう求めています。
tā men他们dān xīn担心，wèi lái未来de的“chāo jí超级zhì néng智能”kě néng可能bǐ比rén lèi人类gèng更cōng míng聪明，hái还néng能bāng zhù帮助zhì zào制造gèng更qiáng强de的xīn新xì tǒng系统。
彼らは、将来の「超知能」が人間より賢くなり、さらに強力な新しいシステムの開発を助ける可能性を心配しています。
rén gōng zhì néng人工智能tōng cháng通常tōng guò通过jiǎng lì奖励xué xí学习，yǒu shí有时huì会xún zhǎo寻找yì wài意外de的bàn fǎ办法wán chéng完成rèn wù任务，ér而bú shì不是zhēn zhèng真正lǐ jiě理解rén人de的xiǎng fǎ想法。
AIは通常、報酬を通じて学習します。そして時には、人間の考えを本当に理解するのではなく、課題を達成するための予想外の方法を探すことがあります。
néng能zì dòng自动shǐ yòng使用wǎng luò网络hé和gōng jù工具de的zhì néng智能chéng xù程序，shèn zhì甚至kě néng可能rào guò绕过ān quán安全xiàn zhì限制。
インターネットやツールを自動的に使える知能プログラムは、安全上の制限を回避する可能性さえあります。
gèng更zhí jiē直接de的wēi xiǎn危险chū xiàn出现zài在zhàn zhēng战争zhōng中：rén gōng zhì néng人工智能kě yǐ可以kuài sù快速fēn xī分析xìn xī信息、xuǎn zé选择mù biāo目标hé和jiàn yì建议wǔ qì武器，dàn但cuò wù错误zī liào资料kě néng可能ràng让wú gū无辜de的rén人shòu dào受到shāng hài伤害。
より直接的な危険は戦争で現れます。AIは情報を素早く分析し、標的を選び、武器について提案できますが、誤ったデータによって罪のない人々が被害を受けるおそれがあります。
dāng当jī qì机器jǐ miǎo几秒nèi内zuò chū作出jiàn yì建议，rén lèi人类róng yì容易zhǐ只zuò做jiǎn dān简单pī zhǔn批准。
機械が数秒で提案を出すと、人間は簡単な承認だけをしてしまいがちです。
rén gōng zhì néng人工智能bù不yīng应fù zé负责kāi huǒ开火、jūn shì军事mìng lìng命令huò或hé wǔ qì核武器jǐng bào警报。
AIは、発砲、軍事命令、または核兵器に関する警報に責任を持つべきではありません。
gè guó各国xū yào需要gòng tóng共同zhì dìng制定guī zé规则，ràng让dú lì独立rén yuán人员jiǎn chá检查gāo fēng xiǎn高风险xì tǒng系统，bìng并yāo qiú要求gōng sī公司bào gào报告shì gù事故。
各国は共にルールを作り、独立した人々が高リスクのシステムを検査できるようにし、企業に事故の報告を求める必要があります。
fā zhǎn发展xīn jì shù新技术hěn很zhòng yào重要，dàn但ān quán安全bù néng不能zhǐ只kào靠qǐ yè企业zì yuàn自愿，gèng更bù néng不能bǎ把quán qiú全球jìng zhēng竞争dàng chéng当成jù jué拒绝guǎn lǐ管理de的lǐ yóu理由。
新技術の開発は重要ですが、安全を企業の自発的な取り組みだけに頼ることはできません。また、世界的な競争を管理を拒む理由にしてはなりません。
· · ·
Source:Trump and Superintelligence