机器人意外开发非人类语言　面书AI研究喊停

为了让人工智慧（AI）聊天机器人（chatbots）更加人性化，面书（Facebook）最近尝试让机器人互相沟通来学会协商。

结果机器人不仅成功学会谈判，甚至还懂得虚张声势来达到目标，实验途中更一度有了意外的发展：他们发现机器人开发出非人类的独特语言在对话，研究人员不得不暂停实验来修改程式。

人们已经很习惯运用谈判技巧来达成某种程度的妥协，但由于这当中牵涉到复杂的沟通与推理技巧，过去的电脑系统并不具备类似的功能。

就像是手机的语音助手Siri或Alexa一样，现有的聊天机器人可与人类进行短暂对话，并且执行预定餐厅、查询天气等简单的事情，但要和人进行有意义的对话非常具备挑战性，因为这需要AI把“对于对话的理解”与“对世界的知识”结合，然后想办法创造出句子来帮助实现目标。

据《科技新报》报导，面书人工智慧研究实验室（FAIR）为了让聊天机器人学会谈判技巧，让2个机器人各拥有相同数量的三种物品（书、帽子、球），但每种物品对两个机器人的价值都不同，在不能说出价值的情况下，机器人必须透过讨价还价来达到自己可得到的最高价值。

研究人员在设计时，特别确保不会有对双方都是最好交易的情况发生，并且规定要在十轮对话中达到目标。

在这样的过程中，聊天机器人逐渐学会制定长期计画，并能在沟通中评估对话者的心理来建构模型，进而运用对话来达成目标。

让两个聊天机器人自由对话训练协商功能的过程中，FAIR意外发现，机器人透过机器学习（machine learning）改善谈判技巧时，逐渐开发出机器独有、非人（non-human）的语言在沟通，研究人员随后立即调整模型，避免这样的情况再度出现。

除此之外团队也发现，在有效达成目标的前提下，机器人发展出虚张声势的技巧，也就是人们经常使用的谈判策略──最初先假装对没有价值的东西感兴趣，后续在协商中透过“牺牲”它来达成妥协，而这项行为，研究人员并没有编码在其中。