0

    这种无中生有的事实性错误在学术研究领域被称作幻觉

    2024.03.11 | admin | 26次围观

      撰写新闻报道和进行文学创作是完全不同的。文学创作是一种自由的表达形式,作家可以在不受限制的想象空间内自由发挥,借助自身的生活经历、个人感受和想象力创造出各种人物、场景和情节,给读者留下深刻的印象,带来情感上的共鸣。AI的黑盒性和不可控性完美地契合了这种自由发挥的创作过程。

      相比之下,新闻报道必须紧扣事实,遵循新闻价值和新闻伦理,避免夸大事实、误导读者等不当行为。作为媒体的代表,记者应该尽可能客观地报道事件的经过、原因、影响和相关人物,为公众提供准确、全面的信息。这是保障新闻报道可信度和公信力的关键。

      从上面的分析可以看出,AI不能取代人类记者的核心工作。因为新闻报道需要记者的洞察力、判断力和人际交往能力,这些都是目前的AI无法替代的。所以说,新闻报道中的主要工作还是需要人类记者来完成。但是,AI可以辅助记者完成新闻报道的某些重复性工作,如整理信息、指写综述性的新闻稿件等。

      笔者尝试要求ChatGPT撰写一篇关于GPT-4的新闻报道,但由于ChatGPT的训练数据截至2021年9月,因此它并不具备关于GPT-4的相关知识。尽管ChatGPT努力写出了一篇流畅且结构规整的报道,但这篇报道存在两个问题:首先,其中的某些事实是错误的。文章声称“据了解,该模型的参数数量超过1.2万亿”,但这并不是事实。这种无中生有的事实性错误在学术研究领域被称作幻觉,是目前大型语言模型最大的问题和挑战之一。其次,文章内容过于泛泛而谈,缺乏具体细节和深度。这是因为ChatGPT试图避免幻觉问题,但由于缺乏相关知识,因此只能写出过于模式化的空洞报道。

      为了解决这些问题,需要扩展相关内容,为ChatGPT 提供更多信息,使它产生更深入的洞察。在实际工作中,记者可以将他们观察到的信息,采访到的内容及与相关专业人士的探讨作为新闻报道的素材提供给ChatGPT,让 ChatGPT 据此进行新闻报道的编写。本例中,通过使用百度和谷歌搜索引擎来寻找关于GPT-4的相关新闻和评论文章,以此作为素材,逐条输入到ChatGPT对话上下文中,并使用适当的提示指令来指导 ChatGPT的输出。笔者采用的提示指令如下。

      提示:我正在撰写一篇关于GPT-4模型发表的新闻报道。我希望你是一名AI记者。我接下来为给你提供一系列不同角度的关于GPT-4模型的新闻线索,我每次告诉你一篇新闻线索,你只需要回答“收到”即可。在所有的新闻线索都提供完之后,我会告诉你“基于上述新闻线索撰写一篇新闻报道”,到那时,你再基于所有的新闻线索完成新闻报道的撰写。如果你理解了我的指令,请回复“明白”。

      在输入这些新闻素材时,需要逐条输入,因为ChatGPT在一次会话中处理的文本长度是有限的。以前视频提到过,GPT-3.5模型中最大的上下文长度为4096个Token,也就是它大约能一次性处理大约两千字的内容。这些新闻素材的内容总长度是超过了模型能够一次处理的文本长度的,因此需要分批次输入。在全部素材输入完成后,笔者给出如下提示指令:基于上述新闻线索撰写一篇新闻报道。

      提示:基于上述新闻线索撰写一篇新闻报道

      ChatGPT 基于新闻素材撰写的GPT-4的新闻报道具体内容在这里就不贴出来了。但笔者可以看到,这篇报道内容具体且翔实,列出了一些明确的数据,并提炼了一个到位的标题,突出了GPT-4的专业和学术水平。

      然而,作为一名专业的记者,您可能会敏锐地发现,GPT-4最重要的创新在多模态方面,即其图像处理能力。因此,您希望这篇新闻报道突出GPT-4的多模态能力。请在调整新闻报道的重心时,使用适当的指令,例如“请重点介绍GPT-4的多模态能力”或“请详细描述GPT-4在图像处理方面的优势”。这样可以更好地引导ChatGPT输出与您期望的报道内容相关的文本。

      提示:基于上述新闻线索撰写一篇新闻报道,突出其在多模态方面的能力。

      一个好的标题是一篇新闻报道成败的关键之一。在这个任务上,经验丰富的媒体工作者无疑具备更强大的创造力和更准确的判断力。但是,ChatGPT仍然可以为我们提供帮助。我们可以让ChatGPT给出大量的候选标题,由我们自行筛选,最终挑选出一个最合适的标题。

      为了让ChatGPT输出更多的候选标题,可以使用类似于“请提供10个与上述新闻报道相关的标题”或“请列出10个适合上述新闻报道的标题”的指令。还可以进一步提出更明确的要求,例如想要“抓眼球”的标题,而不是平淡的标题。这样可以让ChatGPT更好地理解我们的需求。并输出更符合我们期望的内容。

      提示:请给这篇新闻取一个“抓眼球”的标题,请列出10个。

      新闻被分为不同的类型。其中一些类型的新闻主要基于客观数据和事实撰写,而且获取这些数据和事实相对容易,因此这类新闻很适合利用ChatGPT 等人工智能技术辅助人类进行批量创作。例如,体育赛事报道,股票走势分析等。在下面的例子中,笔者采用如下提示指令。

      提示:下面我会向你提供一场<比赛信息>,<球队一>对阵<球队二>的比赛实况文字直播内容:

      <时刻1><赛场事件1>

      <时刻2><赛场事件2>

      请根据上述内容完成一篇生动且翔实的新闻报道。

      告知ChatGPT某场足球比赛的文字直播内容,它就能根据所提供的信息生成一篇生动且翔实的新闻报道。然后输入:请根据上述内容完成一篇生动且翔实的新闻报道

      在本节的最后,笔者要再次强调的是,新闻报道必须紧扣事实,遵循新闻价值和新闻伦理。虽然ChatGPT可以为人类撰写新闻报道提供帮助,但是幻觉错误不可避免,ChatGPT很有可能写出偏离事实的新闻报道。在使用ChatGPT撰写新闻报道时,可以使用一些指令,例如“请确保所提供的内容与事实相符”或“请检查输出的新闻报道是否准确”。这样可以提醒ChatGPT注意新闻报道的准确性,也可以提醒自己在核查新闻报道时保持警惕,避免出现错误。无论如何,在使用ChatGPT输出的新闻报道前,必须由人工进行仔细的检查与核对,确保其准确性和可靠性。

      今天就聊到这里,我想强调一下,我真的不是ChatGPT技术领域的专家,只是因为兴趣,我先一步使用了ChatGPT。所以我希望与各位同仁在讨论区一起探索和学习,共同进步,谢谢。

    这种无中生有的事实性错误在学术研究领域被称作幻觉
    版权声明

    本文仅代表作者观点,不代表xx立场。
    本文系作者授权xxx发表,未经许可,不得转载。

    发表评论
    标签列表