icon
当前位置:

人工智能最终可能操纵人类吗

第二,人工智能可能从控制人类身上得到基本的经济利益。这就恳求人类本身能够实现人工智能所不能实现的必要工作。对人工智能系统本身来说,高度依附人类的工作是对人工智能自身的维护跟更新,这也包括始终用人类智慧去完丽人工智能。

标签 人类 人工智能 人工智能可能 智慧 状态

人工智能的进一步演化,则会形成其发展历史上的第二次跃迁,即人工智能压倒性地超过人类智慧,并具备了本身的主体意识,从而开始摆脱客体的属性,反过来控制人类。这就造成了人工智能自身对人类的操纵这一形态。对这种状况的存在,则要满足以下条件。

随着人工智能在社会中的广泛应用,会形成一种类似于资本控制的掌握形态,即人类由于高度依赖人工智能造成整体上的物种退化。

人工智能自身对人类的节制

第一,是人工智能要领有自我意识。这并不是指人工智能在处理外界输入时的判断跟反应超过了人类,而是人工智能要存在明白的自我意识,从而将自己与人类主体区分开来。这一点在当前的人工智能界依然存疑,但具备切实现的可能性。

例如,在一个高度智慧化的时代,出行有主动驾驶,饮食有自动做菜的炊具,社交有人工智能的安排或者有机器拟人化的伴侣,生育孩子则有智能化的抚育器,社会治理和决定则由核心巨型智慧体进行断定。那么,人类整体上,就逐渐演变成一种高度依靠人工智能存在的物种,诚然人类在人工智能的帮助下整体上的才干会增强,但人类作为独破的个体则会相应地退化。这就存在一种总有一天人类无奈理解人工智能,从而在这一互生的体系中失去相应的位置和必要性的可能。

人类适度依赖人工智能可能会导致物种退化

一种观点认为,人工智能是人类设计出来的,因此不可能超过人类。但实际上,人工智能是人类智慧与机器进化的结合,存在超过人类智慧的才能与趋势。因而,人工智能对未来人类构成“把持”这种可能是存在的。