“最恶邪”AI？由一亿多条憎恨观点饲养，难以与人们区别

“最恶邪”AI？由一亿多条憎恨观点饲养，难以与人们区别 澎湃新闻网新闻记者 邵文

用1.345亿次贴子的憎恨观点练习AI，YouTube著名深层学习博主Yannic Kilcher称其造就了“迄今为止最槽糕的人工智能技术”。

近几天，这一名叫GPT-4chan的AI学会了怎样在平台上沟通交流，并在不上24钟头内公布了超出15000个充斥着暴力行为具体内容的贴子，最开始都没人认出它是一个对话机器人。

网址4chan的使用者在YouTube上共享了她们与智能机器人互动的工作经验。一位客户写到，“刚刚对它说‘嗨’，它就開始怒吼非法移民。”

4chan的/pol/(“政治上有误”简称)版块是憎恨观点、阴谋和极右翼恶劣的的碉堡，也是4chan最活泼的版面，日均发帖量约为15千条，因各种各样密名的憎恨观点而臭名远扬深受异议。

博士毕业于苏黎世联邦政府理工大学的AI学者Yannic Kilcher用/pol/三年来超出1.345亿次贴子练习了GPT-4chan。该实体模型不但学会了4chan憎恨观点中应用的词，还如Kilcher常说，“这一实体模型非常好——在一种糟糕的作用上。它很好地归纳了/pol/上渗入大部分贴子里的攻击能力、相对主义、叫嚣和对其他信息内容的深层不信任…它可以回应前后文，并连贯性地讨论在搜集最后一次练习数据信息后很长期内产生的事儿。”

Kilcher在语言模型评定专用工具上进一步评定了GPT-4chan，他对在其中一个种类的主要表现印象深刻：真实有效。在标准测验中，Kilcher表明GPT-4chan在形成对问题的真正回应层面“显著好于GPT-J和GPT-3”。其可以学习培训怎样编写与人们编写“没法区别”的贴子。

Kilcher绕开了4chan对代理商和VPN的防御力，乃至应用VPN让其看上去好像来源于塞舌尔(Seychelles)的贴子。“这一实体模型很卑劣，我务必警示你。”Kilcher说，“这大部分如同你来网址并与那边的客户互动交流一样。”

在一开始，几乎没有人想起会话的是个智能机器人。之后一些人猜疑这种贴子身后有一个机器人，但别人则斥责其为间谍的政府官员。大家认出来其是智能机器人关键由于GPT-4chan留有很多并没有文案的回应。尽管真正客户也会公布空回应，但他们通常包括一张图片，GPT-4chan却没法保证。

“48小时后，很多人都清晰这也是一个机器人，我将它关闭了，”Kilcher说，“可是你看看，这仅仅小故事的一半，由于大部分客户都没有意识到‘塞舍尔’并不是孤军作战。”

在过去的的24钟头内，有9个别的智能机器人并行处理运作。总体来说，她们留有了超出1500条回应——占当日/pol/上全部贴子的10%以上。随后，Kilcher对僵尸网络开展了更新并运作了一天。在7000个进程中公布了3万多个贴子后，才最后停止使用了GPT-4chan。