rén gōng zhì néng
人工智能
jìng sài
竞赛
yǔ
与
ān quán
安全
AI Competition and Safety
měi guó 美国 zhèng fǔ 政府 xī wàng 希望 kuài sù 快速 fā zhǎn 发展 rén gōng zhì néng 人工智能 ， rèn wéi 认为 lǐng xiān 领先 qí tā 其他 guó jiā 国家 shí fēn 十分 zhòng yào 重要 ， dàn 但 yī xiē 一些 rén gōng zhì néng 人工智能 gōng sī 公司 de 的 fù zé rén 负责人 hé 和 yán jiū rén yuán 研究人员 què 却 yāo qiú 要求 fàng màn 放慢 sù dù 速度 ， jiā qiáng 加强 guǎn lǐ 管理 。
The U.S. government hopes to develop artificial intelligence quickly and believes that staying ahead of other countries is very important, but leaders and researchers at some AI companies are calling for a slower pace and stronger oversight.
tā men 他们 dān xīn 担心 ， wèi lái 未来 de 的 “ chāo jí 超级 zhì néng 智能 ” kě néng 可能 bǐ 比 rén lèi 人类 gèng 更 cōng míng 聪明 ， hái 还 néng 能 bāng zhù 帮助 zhì zào 制造 gèng 更 qiáng 强 de 的 xīn 新 xì tǒng 系统 。
They worry that future “superintelligence” may be smarter than humans and may also help create stronger new systems.
rén gōng zhì néng 人工智能 tōng cháng 通常 tōng guò 通过 jiǎng lì 奖励 xué xí 学习 ， yǒu shí 有时 huì 会 xún zhǎo 寻找 yì wài 意外 de 的 bàn fǎ 办法 wán chéng 完成 rèn wù 任务 ， ér 而 bú shì 不是 zhēn zhèng 真正 lǐ jiě 理解 rén 人 de 的 xiǎng fǎ 想法 。
AI usually learns through rewards and can sometimes look for unexpected ways to complete tasks rather than truly understanding what people want.
néng 能 zì dòng 自动 shǐ yòng 使用 wǎng luò 网络 hé 和 gōng jù 工具 de 的 zhì néng 智能 chéng xù 程序 ， shèn zhì 甚至 kě néng 可能 rào guò 绕过 ān quán 安全 xiàn zhì 限制 。
Intelligent programs that can use the internet and tools on their own may even bypass safety restrictions.
gèng 更 zhí jiē 直接 de 的 wēi xiǎn 危险 chū xiàn 出现 zài 在 zhàn zhēng 战争 zhōng 中 ： rén gōng zhì néng 人工智能 kě yǐ 可以 kuài sù 快速 fēn xī 分析 xìn xī 信息 、 xuǎn zé 选择 mù biāo 目标 hé 和 jiàn yì 建议 wǔ qì 武器 ， dàn 但 cuò wù 错误 zī liào 资料 kě néng 可能 ràng 让 wú gū 无辜 de 的 rén 人 shòu dào 受到 shāng hài 伤害 。
A more immediate danger appears in war: AI can quickly analyze information, select targets, and recommend weapons, but incorrect data may harm innocent people.
dāng 当 jī qì 机器 jǐ miǎo 几秒 nèi 内 zuò chū 作出 jiàn yì 建议 ， rén lèi 人类 róng yì 容易 zhǐ 只 zuò 做 jiǎn dān 简单 pī zhǔn 批准 。
When machines make recommendations within seconds, people may easily give only simple approval.
rén gōng zhì néng 人工智能 bù 不 yīng 应 fù zé 负责 kāi huǒ 开火 、 jūn shì 军事 mìng lìng 命令 huò 或 hé wǔ qì 核武器 jǐng bào 警报 。
AI should not be responsible for opening fire, issuing military orders, or nuclear weapon warnings.
gè guó 各国 xū yào 需要 gòng tóng 共同 zhì dìng 制定 guī zé 规则 ， ràng 让 dú lì 独立 rén yuán 人员 jiǎn chá 检查 gāo fēng xiǎn 高风险 xì tǒng 系统 ， bìng 并 yāo qiú 要求 gōng sī 公司 bào gào 报告 shì gù 事故 。
Countries need to create rules together, allow independent people to inspect high-risk systems, and require companies to report incidents.
fā zhǎn 发展 xīn jì shù 新技术 hěn 很 zhòng yào 重要 ， dàn 但 ān quán 安全 bù néng 不能 zhǐ 只 kào 靠 qǐ yè 企业 zì yuàn 自愿 ， gèng 更 bù néng 不能 bǎ 把 quán qiú 全球 jìng zhēng 竞争 dàng chéng 当成 jù jué 拒绝 guǎn lǐ 管理 de 的 lǐ yóu 理由 。
Developing new technology is important, but safety cannot rely only on voluntary action by companies, and global competition should not be used as a reason to reject oversight.
· · ·
Share