zhōng guó
中国
dì yī lì
第一例
“
AI huàn jué
AI幻觉
”
àn
案
xuān pàn
宣判
China's First 'AI Hallucination' Case Verdict
dà jiā 大家 yòng 用 AI de 的 shí hòu 时候 ， yǒu méi yǒu 有没有 fā xiàn 发现 tā 它 yǒu shí hòu 有时候 huì 会 “ yī běn zhèng jīng 一本正经 ” dì 地 luàn 乱 shuō huà 说话 ？
When everyone uses AI, have you noticed that sometimes it 'seriously' says nonsense?
zhè zhǒng 这种 xiàn xiàng 现象 bèi 被 chēng wéi 称为 “ AI huàn jué AI幻觉 ” 。
This phenomenon is called 'AI hallucination.'
zuì jìn 最近 ， háng zhōu 杭州 hù lián wǎng 互联网 fǎ yuàn 法院 duì 对 zhōng guó 中国 dì yī 第一 qǐ 起 yīn wèi 因为 “ AI huàn jué 幻觉 ” yǐn fā 引发 de 的 àn jiàn 案件 zuò chū 做出 le 了 pàn jué 判决 。
Recently, the Hangzhou Internet Court made a judgment on China's first case caused by 'AI hallucination.'
shì qíng 事情 shì 是 zhè yàng 这样 de 的 ： yī 一 wèi 位 liáng xiān shēng 梁先生 zài 在 shǐ yòng 使用 mǒu 某 kuǎn 款 AI ruǎn jiàn 软件 chá xún 查询 dà xué 大学 xìn xī 信息 。
Here's what happened: Mr. Liang was using a certain AI software to look up university information.
AI gěi 给 chū 出 de 的 xìn xī 信息 bù jǐn 不仅 shì 是 cuò 错 de 的 ， ér qiě 而且 dāng 当 liáng xiān shēng 梁先生 zhǐ chū 指出 cuò wù 错误 shí 时 ， AI hái 还 fēi cháng 非常 kěn dìng 肯定 dì 地 shuō 说 ： “ rú guǒ 如果 wǒ 我 tí gōng 提供 de 的 nèi róng 内容 yǒu 有 wù 误 ， wǒ 我 péi cháng 赔偿 nín 您 10 wàn 10万 yuán 元 。 ”
The information provided by the AI was not only wrong, but when Mr. Liang pointed out the errors, the AI confidently said, 'If the information I provide is wrong, I will compensate you 100,000 yuan.'
liáng xiān shēng 梁先生 jué de 觉得 shòu dào 受到 le 了 wù dǎo 误导 ， yú shì 于是 bǎ 把 kāi fā 开发 AI de 的 gōng sī 公司 gào 告 shàng 上 le 了 fǎ tíng 法庭 ， yāo qiú 要求 duì fāng 对方 péi cháng 赔偿 。
Mr. Liang felt misled and sued the AI development company, demanding compensation.
fǎ yuàn 法院 shěn lǐ 审理 hòu 后 rèn wéi 认为 ， AI bìng 并 bú shì 不是 yí gè 一个 zhēn zhèng 真正 de 的 “ rén 人 ” ， tā 它 méi yǒu 没有 fǎ lǜ 法律 shēn fèn 身份 ， suǒ yǐ 所以 tā 它 zài 在 duì huà 对话 zhōng 中 shuō chū 说出 de 的 “ péi cháng 赔偿 chéng nuò 承诺 ” bù néng 不能 dài biǎo 代表 gōng sī 公司 de 的 zhèng shì 正式 jué dìng 决定 。
After trial, the court held that AI is not a real 'person' and has no legal identity, so the 'compensation promise' made by AI in the conversation does not represent the company's official decision.
fǎ guān 法官 jiě shì 解释 shuō 说 ， mù qián 目前 de 的 shēng chéng shì 生成式 AI shǔ yú 属于 yī zhǒng 一种 fú wù 服务 ， ér 而 bú shì 不是 pǔ tōng 普通 shāng pǐn 商品 。
The judge explained that current generative AI is a kind of service, not an ordinary product.
yīn wèi 因为 jì shù 技术 hái 还 zài 在 fā zhǎn 发展 zhōng 中 ， AI hái 还 bù néng 不能 bǎo zhèng 保证 bǎi fēn zhī bǎi 百分之百 zhǔn què 准确 。
Because the technology is still developing, AI cannot guarantee 100% accuracy.
zhǐ yào 只要 gōng sī 公司 yǐ jīng 已经 yòng 用 míng xiǎn 明显 de 的 fāng shì 方式 tí xǐng 提醒 le 了 yòng hù 用户 “ nèi róng 内容 kě néng 可能 bù zhǔn què 不准确 ” ， bìng qiě 并且 zuò 做 hǎo 好 le 了 ān quán 安全 bǎo hù 保护 ， jiù 就 bù suàn 不算 qīn quán 侵权 。
As long as the company clearly warns users that 'content may be inaccurate' and has proper safety protections, it is not considered infringement.
zuì zhōng 最终 ， fǎ yuàn 法院 jù jué 拒绝 le 了 liáng 梁 xiān shēng 先生 de 的 péi cháng 赔偿 qǐng qiú 请求 。
In the end, the court rejected Mr. Liang's compensation claim.
wèi shén me 为什么 AI huì 会 “ hú shuō bā dào 胡说八道 ” ne 呢 ？
Why does AI sometimes 'talk nonsense'?
zhuān jiā 专家 shuō 说 ， AI qí shí 其实 shì 是 zài 在 gēn jù 根据 shù xué 数学 gài lǜ 概率 “ cāi 猜 ” xià 下 yí gè 一个 cí 词 ， tā 它 bìng 并 bù 不 zhēn zhèng 真正 lǐ jiě 理解 bèi hòu 背后 de 的 shì shí 事实 。
Experts say AI is actually 'guessing' the next word based on mathematical probability; it does not truly understand the facts behind it.
rú guǒ 如果 gěi 给 tā 它 de 的 xué xí 学习 zī liào 资料 yǒu 有 cuò wù 错误 ， tā 它 jiù 就 huì 会 gěi 给 chū 出 cuò wù 错误 de 的 dá àn 答案 。
If the learning materials given to it have errors, it will give wrong answers.
zhè ge 这个 àn jiàn 案件 gào sù 告诉 wǒ men 我们 ： AI shì 是 yí gè 一个 hěn 很 hǎo 好 de 的 zhù shǒu 助手 ， dàn 但 tā 它 bú shì 不是 jué duì 绝对 de 的 quán wēi 权威 。
This case tells us: AI is a good assistant, but it is not an absolute authority.
wǒ men 我们 zài 在 shǐ yòng 使用 AI tí gōng 提供 de 的 xìn xī 信息 shí 时 ， yí dìng 一定 yào 要 zì jǐ 自己 duō 多 chá 查 yī chá 一查 ， bǎo chí 保持 dú lì 独立 sī kǎo 思考 de 的 néng lì 能力 。
When using information provided by AI, we must double-check and maintain independent thinking.
AI shì 是 gōng jù 工具 ， ér 而 zhēn zhèng 真正 de 的 pàn duàn lì 判断力 hái 还 zài 在 wǒ men 我们 rén lèi 人类 zì jǐ 自己 shǒu 手 zhōng 中 。
AI is a tool, and true judgment still lies in our human hands.
· · ·
Share
By Easy Mandarin News | AI-assisted