首页 古言 现言 纯爱 衍生 无CP+ 百合 完结 分类 排行 全本 包月 免费 中短篇 APP 反馈
网友:+ 打分:2 [2017-03-12 01:30:19]
梗很棒,但是关于AI和machinelearning的一些内容有逻辑问题呀。不用深究专业上的问题,但是科幻本身的逻辑还是需要自洽的。比如这里,小谢博士认为,为了防止AI叛变,应该让它们具有情感,才能通情达理;问题是,不具有情感的AI本身根本不可能"叛变",如果把"叛变"定义为违背人类意志,即违背程序本身的初始目标。算法摆在那儿,最优化方案摆在那儿,程序本身是不能跳出自己本身的代码的。当然,出于其他的理由,我们可以考虑让AI拥有情感,但是这里提出的理由实在是逻辑问题太严重了,如果可以修改一下就好啦。类似的还有:既然可以控制受写代码,那么也能控制他直接自杀/自投罗网,根本不必冒险让其他人上门去绑架他
1
[1楼] 网友:路人甲 [2017-03-12 12:04:17]
个人感觉也不能说是背叛,就是有时候ai会判定某个行为是最优的但其实这个行为恰好会伤害到人类,大概就是理性和感性的区别吧。
1 [投诉]
[2楼] 网友:三角金币 [2018-05-06 16:26:41]
虽然是一年前的评论了,不过这么一说确实有一定的道理。一方面,拥有情感的AI不可控性更加严重,而没有情感的话,总有最优解,但最优解也许对人类不利,然而对最优解而言先决条件是限制条件必须明确。不能违背人类的意志,这个“度”本身就较为困难,而且程序要是有自我修改的能力,这一条件要是被意外修改掉了,事情就会失去控制了吧。另一方面,确实啊为什么要绑架自杀不是更好吗!一时间想不到更优的解法,之后再说吧。
[投诉]
写书评 | 看书评 | 返回
网友:+ 打分:2 [2017-03-12 01:30:19]
20梗很棒,但是关于AI和machinelearning的一些内容有逻辑问题呀。不用深究专业上的问题,但是科幻本身的逻辑还是需要自洽的。比如这里,小谢博士认为,为了防止AI叛变,应该让它们具有情感,才能通情达理;问题是,不具有情感的AI本身根本不可能"叛变",如果把"叛变"定义为违背人类意志,即违背程序本身的初始目标。算法摆在那儿,最优化方案摆在那儿,程序本身是不能跳出自己本身的代码的。当然,出于其他的理由,我们可以考虑让AI拥有情感,但是这里提出的理由实在是逻辑问题太严重了,如果可以修改一下就好啦。类似的还有:既然可以控制受写代码,那么也能控制他直接自杀/自投罗网,根本不必冒险让其他人上门去绑架他
1
[1楼] 网友:路人甲 [2017-03-12 12:04:17]
个人感觉也不能说是背叛,就是有时候ai会判定某个行为是最优的但其实这个行为恰好会伤害到人类,大概就是理性和感性的区别吧。
1 [投诉]
[2楼] 网友:三角金币 [2018-05-06 16:26:41]
虽然是一年前的评论了,不过这么一说确实有一定的道理。一方面,拥有情感的AI不可控性更加严重,而没有情感的话,总有最优解,但最优解也许对人类不利,然而对最优解而言先决条件是限制条件必须明确。不能违背人类的意志,这个“度”本身就较为困难,而且程序要是有自我修改的能力,这一条件要是被意外修改掉了,事情就会失去控制了吧。另一方面,确实啊为什么要绑架自杀不是更好吗!一时间想不到更优的解法,之后再说吧。
[投诉]