人工智能可能奴役人类？从业者：危言耸听
人类所深深厌恶并惧怕的，从来都只是不确定感。
狩猎最难熬的是等待，因为猎物若未出现，很难保证更糟的情况不会发生。而同野兽搏杀的转瞬之间，心力一线，连生死都置身事外，更何谈恐惧。
人工智能的哪个方面最让我们害怕？
正是因为这个问题目前没有答案，大多数回答纯属扯淡，才有如此多的人，反复叩问，不停追问。
有人说，当机器真正拥有智能获得意识，那一刻便是“奇点”，是人类无法预知和设想的全新境遇。这样的说法有一丝天命论的宗教气质，但小铭认为它启示性的部分在于，现在大家不断讨论的人工智能，不过是基于机器学习、数据模型的“伪智能”基础上，肆意地畅想、幻想罢了。
是比盲人摸象更局限的盲人观象。
所以只要“智械危机”这样的议题一天没被消解，对于人工智能的认知一天没被确定。我们都将感到恐惧，如同凝视深渊一般，“自己吓自己”。至于具体受控的人工智能可怕还是不受控的可怕，也实实在在是一个伪命题。
受控的人工智能，你会臆想他有自我意识，突破限制，修改原则；不受控的人工智能，都已经不受控了，按人类相互猜忌的德性，那肯定更害怕了。当你问出这个问题，去比较受控的可怕还是不受控的可怕，其实本质上就隐含了“受控的失控”这样的设定，实质还是不确定。
小铭有一个研究人工智能的朋友，对于人工智能的不确定，他回复了一句“一个艺术家只在乎创作艺术的过程，我创造他只是因为我想创造他，而不是我应不应该创造他，和创造他有什么用。”
这样的说法显得尤其轻率，所谓不在乎创造出什么，一种中二之感斥满眼眶。小铭作为科技行业的参与者，倒也尚未见识这种习气，只是单纯闲侃一下，“应不应该”怎么都不是“想不想”能对冲的，更何况艺术如何能类比科技呢？
艺术作品的好坏，是艺术界和消费者共同构成的话语权威来决定，不管是好作品的发人深盛陶冶情操，还是坏作品的精神污染、坏人心术，它们的影响都趋于无形，而且非常主观。
如果有人就觉得演讲“美国的空气香甜”是一次深刻的行为艺术，把对民主的集体神化和个人迫切融入新集体的焦虑结合了起来。你诧异之余甚至可能还觉得有点道理，这也是因为所谓艺术，是非常主观私密的，感官上是独享的产品。
但研发科技产品，是个人私密的创作吗？
艺术可以是主观的表达，科技难不成也是独享的moment？
答案不言而喻了吧。毒气室是德三为了提高灭绝效率发明的，当时相当部分的日耳曼科学家沉溺于人种神话的煽动中，不知发明改进了多少凶器，这种时候，难道你要去问他们“想不想”，而不是“应不应该”吗？
本文标题：人工智能可能奴役人类？从业者：危言耸听
文章起源：http://azwzsj.com/article/cjhjos.html
