人们怕人工智能获得意识到底是怕哪个方面？

我一直认为人类的许多表现，都是原始本能在现代社会中的映射。编造个小故事：

在这片原始的大陆上，生活着许多不同的原始部族。咚塔塔人也是其中一员，或许是因为脑容量大一丢丢吧，咚塔塔人首先悟出了三条生存的准则：

1. 猎物的肉-火烤-吃；
2. 猎物的皮毛-剥下来-穿在身上-不冷 ；
3. 猎物的腿骨-敲碎-敌人的脑袋。

很快他们悟到了第四条准则：

4. 笨蛋脑袋可以不敲碎，拿来生孩子当苦力

接着是第五条：

5. 笨蛋脑袋不好用，教会前三条就好用了

然后是笨蛋脑袋中学会了前三条，并悟出了第六条：

6. 咚塔塔人能做到的，我们也能！敲碎他们的脑袋！

我想表达的是，令人们感到恐惧的不是人工智能产生意识——我们可以利用这些意识实现更多的价值——而是人工智能越来越接近人类。从某种意义上来说，人们就是在害怕自己。