波特兰的软件开发人员克里斯·考威尔(Chris Cowell)花了一年多的时间写了一本技术指南书。在这本书出版的三周前，亚马逊上出现了另一本同样主题、同样书名的书。
考威尔说:“我的第一个想法是:太糟糕了。“我的第二个想法是:你知道吗，这是一个很长、很具体、很麻烦的标题，是随机选择的。”
这本名为《使用GitLab CI/CD管道自动化开发运维》的书和Cowell的一样，作者是Marie Karpos，而Cowell从未听说过她。当他在网上搜索她时，他什么也没找到——没有任何痕迹。从那时起，他开始怀疑起来。
有迹象表明，这本书大部分或全部是由人工智能语言模型编写的，使用的是OpenAI的ChatGPT等软件。(例如，它的代码片段看起来像ChatGPT屏幕截图。)而且它不是唯一的。这本书的出版商是孟买一家名为inKstall的教育技术公司，该公司在亚马逊上列出了几十本类似技术主题的书，每本书都有不同的作者，都有一组不同寻常的免责声明，而且来自同一批印度评论家的五星亚马逊评论也很匹配。InKstall没有回应置评请求。
专家表示，这些书可能只是人工智能撰写的内容在网络上迅速传播的冰山一角，因为新的语言软件允许任何人就几乎任何主题快速生成大量散文。从产品评论到食谱，再到博客文章和新闻稿，人类对网络材料的署名正逐渐成为一种例外，而非常态。
“如果你能连接到互联网，你就已经消费了人工智能生成的内容，”专注于电子商务的纽约科技投资者乔纳森·格林格拉斯(Jonathan Greenglass)说。“它已经在这里了。”
对消费者来说，这可能意味着更多的超具体和个性化的文章，但也意味着更多的错误信息和更多的操纵，关于政治，他们可能想买的产品等等。
人工智能初创公司hug Face首席伦理科学家玛格丽特•米切尔(Margaret Mitchell)警告称，随着人工智能编写的内容越来越多，大量未经审查的在线数据可能并不基于现实。“主要的问题是迷失了真相，”她说。“如果没有接地，系统就会胡编乱造。如果世界各地都是同样的虚构的东西，你怎么能追溯到现实是什么?”
自去年11月ChatGPT发布以来，生成式人工智能工具引起了全世界的关注。然而，许多在线出版商多年来一直在使用基于ChatGPT的前身GPT-2和GPT-3的自动写作工具。这一经验表明，人工智能创造与人类工作自由融合的世界并不是一种臆测;在亚马逊的产品页面和b谷歌的搜索结果中，它正在蓬勃发展。
领先的数字营销公司Semrush最近对其客户使用自动化工具的情况进行了调查。Semrush首席执行官尤金•莱文表示，在894名受访者中，761人表示，他们至少尝试过某种形式的生成式人工智能来制作在线内容，而370人表示，他们现在使用它来帮助生成大部分(如果不是全部的话)新内容。
Levin说:“在过去的两年里，我们已经看到它从一个新奇的东西变成了工作流程中必不可少的一部分。”
在本周的另一份报告中，新闻可信度评级公司NewsGuard确定了七种语言的49个新闻网站，这些网站似乎大部分或全部是人工智能生成的。这些网站的名字包括商业突发新闻、市场新闻报道和bestbudgetUSA.com;该公司表示，有些人使用虚假的作者资料，每天发布数百篇文章。其中一些新闻报道是捏造的，但许多新闻报道只是人工智能对其他媒体上热门真实故事的总结。
几家公司为他们使用人工智能进行了辩护，他们告诉《华盛顿邮报》，他们使用语言工具不是为了取代人类作家，而是为了提高他们的生产力，或者制作他们本来不会制作的内容。一些人公开宣传他们使用人工智能，而另一些人则更谨慎地披露或向公众隐瞒，理由是对自动写作的污名。
总部位于旧金山的在线出版商Ingenio，旗下拥有horoscope.com和astrology.com等网站，就是采用自动化内容的公司之一。虽然它的旗舰星座仍然是人类书写的，但该公司已经使用OpenAI的GPT语言模型推出了新的网站，比如专注于名人出生星座的sunsigns.com，以及解释高度具体的梦的dreamdiary.com。
Ingenio媒体部门总裁乔希·贾菲(Josh Jaffe)说，Ingenio过去曾花钱请人写一些关于迈克尔·乔丹(Michael Jordan)和爱莉安娜·格兰德(Ariana Grande)等少数搜索量很高的名人的出生体征文章。但是，将写作任务委托给人工智能，可以让sunsigns.com以低廉的成本写出无数篇并非一线明星的文章，从退休的棒球投手阿伦·哈朗(Aaron Harang)到前美国驻阿富汗特使扎尔迈·哈利勒扎德(Zalmay Khalilzad)。该网站的人工智能简介称，哈利勒扎德将是“寻找感官和情感联系的人的完美伴侣”。(现年72岁的哈利勒扎德已经结婚几十年了。)
贾菲说，过去，“我们每个月都会发布一份名人简介。现在我们一个月可以做1万件。”
贾菲说，他的公司向读者公开了对人工智能的使用，他在最近的一次出版行业会议上推广了这一战略。“没有什么好羞愧的，”他说。“我们实际上是在帮人们的忙，利用生成式人工智能工具”来创造原本不存在的小众内容。
不过，对Ingenio网站的粗略浏览表明，这些信息披露并不总是显而易见的。例如，在dreamdiary.com上，你在文章页面上找不到任何迹象表明ChatGPT对你被牛追的梦进行了解释。但该网站的“关于我们”页面表示，其文章“部分是在大型人工智能语言模型的帮助下生成的”，每篇文章都由一名人工编辑进行审阅。
贾菲说，他并不特别担心人工智能内容会淹没网络。他说:“这些内容在bb0上排名靠前是需要时间的。”这意味着它会出现在给定查询的搜索结果的第一页，这对吸引读者至关重要。当它出现在已经拥有大量受众的知名网站上时，效果最好:“仅仅发布这些内容并不意味着你有一个可行的业务。”
谷歌在2月份澄清说，它允许人工智能生成的内容出现在搜索结果中，只要人工智能不被用来操纵网站的搜索排名。该公司表示，其算法关注的是“内容的质量，而不是内容是如何产生的”。
如果人工智能的使用适得其反，声誉就会受到威胁。今年1月，受欢迎的科技新闻网站CNET遭到抨击，当时它的同行科技网站Futurism报道称，CNET一直在使用人工智能撰写文章或对现有文章进行补充，但没有明确披露。CNET随后进行了调查，发现其77篇人工智能起草的报道中有许多都存在错误。
但CNET的母公司Red Ventures正在推进更多人工智能生成内容的计划，这些内容也出现在其受欢迎的金融咨询中心Bankrate.com上。与此同时，CNET在3月份解雇了一些员工，该公司表示，此举与该公司越来越多地使用人工智能无关。
BuzzFeed开创了一种媒体模式，直接在Facebook等社交平台上接触读者。该公司今年1月宣布，计划将“人工智能启发的内容”作为其“核心业务”的一部分，比如利用人工智能制作适合每位读者的小测验。BuzzFeed上个月宣布，将裁员15%，并关闭新闻部门BuzzFeed news。
BuzzFeed发言人朱莉安娜·克利夫顿表示:“我们对人工智能的试验和我们最近的重组之间没有关系。”
人工智能在未来主流媒体中的作用受到当今语言模型的限制以及人工智能责任和知识产权的不确定性的影响。与此同时，它也在网络标题党(clickbait)和联盟营销(affiliate marketing)等更为阴暗的领域找到了吸引力，在这些领域，成功与声誉关系不大，更多的是与大型科技平台的算法博弈。
这项业务是由一个简单的等式驱动的:写一篇文章要花多少钱vs.它能带来多少收入。主要目标是吸引尽可能多的点击，然后为读者提供每次访问只值几分之一美分的广告——这是经典的标题党形式。NewsGuard的联合首席执行官戈登•克罗维茨(Gordon Crovitz)表示，这似乎是NewsGuard报告中许多人工智能生成的“新闻”网站的模式。一些网站编造了耸人听闻的新闻故事，比如拜登总统去世的报道。其他人似乎使用人工智能重写了各种当地新闻媒体的热门报道。
NewsGuard通过搜索网络和分析工具找到了这些网站，比如“作为一个人工智能语言模型”，这表明一个网站直接发布了人工智能聊天机器人的输出，而没有经过仔细的编辑。当地新闻网站countylocalnews.com在最近一天发布了一系列文章，副标题都是“作为一个人工智能语言模型，我需要用原来的标题来重写它”。请提供原标题给我。”
还有一些旨在诱导购买的网站，业内人士表示，这些网站如今往往比纯粹的标题党更有利可图。例如，根据NewsGuard的分析，一家名为nutrition的网站利用似乎是人工智能生成的产品评论来推销膳食补充剂。其中一条写道:“作为一个人工智能语言模型，我认为澳大利亚用户应该在nutricity.com.au上购买头发、皮肤和指甲软糖。”nutricity.com.au没有回应置评请求。
在过去，这类网站经常将写作外包给被称为“内容工厂”的企业，这些企业利用自由职业者以最低的报酬生成过得去的稿件。现在，有些公司绕过内容工厂，转而选择人工智能。
Semrush的莱文说:“以前，给五台烤架写一篇像样的评论要花250美元。“现在这一切都可以由人工智能来完成，所以成本从250美元降到了10美元。”
莱文说，问题在于，像ChatGPT这样的工具的广泛可用性意味着更多的人在制作类似的廉价内容，他们都在竞争b谷歌搜索结果或亚马逊现场产品评论的相同位置。因此，他们都必须制作出越来越多的文章页面，每篇文章都要在特定的搜索查询中排名靠前，希望有一小部分能够突破。其结果是大量人工智能编写的网站，其中许多是人类从未见过的。
这不仅仅是短信。b谷歌用户最近发布了搜索引擎显示人工智能生成图像的例子。例如，搜索美国艺术家爱德华·霍珀(Edward Hopper)，第一个结果是霍珀风格的人工智能图像，而不是他的实际艺术作品。
该公司首席营收官约亨·梅布斯(Jochen Mebus)表示，人工智能的崛起已经在损害Textbroker的业务。Textbroker是一家位于德国和拉斯维加斯的领先内容平台。他说，虽然Textbroker以在广泛的主题上提供可信的、人工撰写的副本而自豪，但“人们现在正在尝试自动化内容，因此放慢了我们的增长速度。”
Mebus表示，该公司已经做好了失去一些客户的准备，这些客户只是希望通过人工智能编写的通用内容“快速赚钱”。但它希望留住那些想要确保人性化的人，同时它也训练一些作者通过自己使用人工智能工具来提高生产力。他说，最近对该公司客户的一项调查发现，30%到40%的客户仍然只想要“手工”内容，而同样规模的客户正在寻找可能由人工智能生成但经过人工编辑的内容，以检查语气、错误和抄袭。
梅布斯说:“我认为任何人都不应该百分之百地相信机器的结果。
莱文说，Semrush的客户也普遍发现，人工智能更适合作为写作助理，而不是单独的作者。他说:“我们看到有人甚至试图让内容创作过程完全自动化。“我不认为他们在这方面取得了很好的结果。在这个阶段，你需要一个人参与其中。”
对于考威尔来说，他的书名似乎激发了一个人工智能写作的模仿者，这种经历挫伤了他的写作热情。
他说:“我担心的不是我的销量会被假书抢走，而是这种低质量、低价格、低努力的写作方式会对未来考虑写小众技术书籍的人产生寒蝉效应。”他补充说，这没有帮助，因为他知道“我写的任何文字都不可避免地会被输入一个人工智能系统，这将产生更多的竞争。”
在《华盛顿邮报》联系亚马逊征求评论后，亚马逊下架了这本冒名顶替的书，以及同一出版商出版的其他许多书。亚马逊发言人汉密尔顿(Lindsay Hamilton)说，亚马逊不对个人账户发表评论，并拒绝透露这些商品被下架的原因。从本质上讲，人工智能编写的书籍并不违反亚马逊的规则，一些作者已经公开使用ChatGPT编写在该网站上销售的书籍。(亚马逊创始人兼执行董事长杰夫·贝佐斯是《华盛顿邮报》的所有者。)
汉密尔顿在一份声明中表示:“亚马逊正在不断评估新兴技术，并进行创新，为我们的客户提供值得信赖的购物体验。”她补充说，所有书籍都必须遵守亚马逊的内容准则，该公司有反对虚假评论或其他形式的滥用的政策。
