返回列表 发帖
本帖最后由 大象形 于 2017-8-2 12:59 编辑

从阿发狗的表现看,它的优势恰在综合。
确实,它是一根筋的。但如果给它的目标设定是:"自己设法生存下去",即自已补充能量,扺抗各种侵扰,延续自己。。。结果会不会就是快速产生出一种高于人类的文明?并以黑暗森林法则藐视、奴役甚至清灭人类?
无意插柳 有心顶肺

TOP

从阿发狗的表现看,它的优势恰在综合。
确实,它是一根筋的。但如果给它的目标设定是:"自己设法生存下去", ...
大象形 发表于 2017-8-2 12:57

所以有阿西莫夫的机器人三原则:
第一条:机器人不得伤害人类.
第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。
第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

现在担心的是把机器人用于战争,那就成为屠杀人类自己的工具了。

TOP

这种明显的恶智能,或许人类还容易达成防范共识,如核武。。。
但是否对人类有伤害,谁能定义清楚呢?如阿发狗,是不是己经对人类
有伤害呢?
另:我认为有了目的,就是有了意识。。。
无意插柳 有心顶肺

TOP

本帖最后由 千古江山 于 2017-8-3 06:03 编辑

我们并不需要害怕其他,应该害怕我们自己。
其实一切规范人工智能的想法,无不是对人的规范。
1

评分人数

  • daiyiguo

TOP

回复 23# 大象形

确实,alphago等机器,还需要人提供两种东西。
1、目标
2、数据
这些围棋恰恰能够满足。

TOP

回复 22# daiyiguo


    没有机器人,战争也将发生。

TOP

返回列表