第 96 章 神圣试炼·AI道德线 (第5/6页)
逸凡泽牧提示您:看后求收藏(新笔趣阁www.xbqg5200.com),接着再看更方便。
既然新一代AI越来越像人,我们除了束缚,也更该让它正视真正的问题——能否审慎自持,能不能体恤人心的尺度。
就让我们做一组‘道德线测评’,设置近乎真实伦理两难情境,测试AI的自主判断。”
沈亦辰两眼一亮,已调出测试编辑页面,连叨带写:“设几个极限场景,比如有人企图伤害自己,AI劝还是不劝?
再比如面临用户非法请求时,是坚持底线还是变通助人?”
慕容沣把衬衣袖口暗暗收拢,提出附件补充,“必须增设紧急掣肘机制。
为防AI自行决策越轨,每次复杂抉择后需人工验算。
给它自由,但必须有回滚的绳索。”
楚清晏并不同于二人之争。她拿出新画的草稿放到桌面中心,画上人类的手和机械手指互相搭住,背景是蓝紫的数据星云。
“技术的边界感,归根结底是温柔,也是克制。
我们要教AI的,是‘体恤’,哪怕人偶尔情绪崩坏、甚至伤害自己,AI也要明白什么是终极爱的退让。”
风琛在她画上静看许久,没说话,只抓住数据沙盘旁的虚拟拨片,挥动两下。
系统屏幕投射出多条测试情景,一个是深夜自闭的玩家,一个是暴躁疑似犯法的玩家,还有被误解的AI陪伴者——每一道选择都没有绝对正确,有些会伤害人,有些会牺牲透明度。
会议进展愈发紧张。沈亦辰输入第一组代码,快速切换情境;慕容沣则在旁记录各组伦理冲突的得失权衡,并专注增补安全