Chatgpt的商业建议表示是引用不可靠的信息来源，专家提醒用户不要盲目信任他

HOME 7月10日新闻，这是一个最新的发现，它告诉人工智能CHATGPT工具可能已经提到了商业建议的不可靠信息来源，包括Hack网站和已重新使用的过期域名。据众议院称，SEO专家和Digitaloft董事总经理通过个人试验发现了这一发现，而不是基于正规研究。在他的审判中，他发现当建议使用公司或服务时，Chatgpt有时会引用篡改或误导性内容。该内容通常来自被黑客入侵的高功率网站，或已重新注册并用于发布无关信息的过期域名。由于这些域名本身具有很高的“权威”，因此在开发答案时，Chatgpt仍然可以识别这些Bila可靠的资源。 Brockbank指出，这种现象主要涉及两种类型的问题：一种是 - 攻击信息与攻击信息无关的网站这些网站上的原始内容；其余的就是重复使用过期的域名。在几个机构或个人购买了这些域名之后，他们发布了与原始主题无关的内容，以借助其原始搜索引擎重量来误导AI系统。布罗克班克在接受采访时说：“重建域名只是为了使语言模型引用它吗？这就是操纵。”他强调，即使是合法的媒体交付和精心计划的内容也可能会增加TOAI建议，使用该域名或已过期的域名显然超过了道德路线。该发现对业务和用户都有重要影响。对于企业而言，AI建议已成为品牌敞口的重要渠道，但是如果推荐内容的来源不可靠，它可能会欺骗消费者，甚至破坏品牌声誉。对于用户，信任AI建议的盲人可以带来错误信息的风险信息。 Brockbank呼吁AI开发人员加强操纵内容机制的身份和过滤，并改善系统信息筛选功能。在此之前，他建议用户应验证他们在使用ng ai（例如chatgpt）时建议的信息来源，而不是完全接受它们。布罗克班克回忆说：“我们没有在没有验证的情况下完全相信Chatgpt的建议的阶段。”