Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje

Roczniki Nauk Społecznych Pub Date : 2024-03-28 DOI:10.18290/rns2024.0009

Jan Kreft, Monika Boguszewicz-Kreft, Barbara Cyrek

{"title":"Halucynacje chatbotów a prawda: główne nurty debaty i ich interpretacje","authors":"Jan Kreft, Monika Boguszewicz-Kreft, Barbara Cyrek","doi":"10.18290/rns2024.0009","DOIUrl":null,"url":null,"abstract":"Generatywne systemy sztucznej inteligencji (SI) są w stanie tworzyć treści medialne poprzez zastosowanie uczenia maszynowego do dużych ilości danych szkoleniowych. Te nowe dane mogą obejmować tekst (np. Bard firmy Google, LLaMa firmy Meta lub ChatGPT firmy OpenAI) oraz elementy wizualne (np. Stable Diffusion lub DALL-E OpenAI) i dźwięk (np. VALL-E firmy Microsoft). Stopień zaawansowania tych treści może czynić je nieodróżnialnymi od twórczości człowieka. Chatboty cechują się jednak tzw. halucynacjami, które w istotnej części są nowym rodzajem dezinformacji. Celem podjętych badań jest identyfikacja głównych nurtów debaty poświęconej skutkom wykorzystania sztucznej inteligencji ze szczególnym uwzględnieniem dezinformacji z udziałem chatbotów w środowisku mediów. W badaniu przyjęto metodę badawczą systematycznego przeglądu literatury ograniczającą m.in. błąd selekcji. Interpretacja głównych nurtów debaty skłania do wniosku, że dezinformacja chatbotów w postaci ich halucynacji jest znacząca pod względem skali, jest optymalizowana i personalizowana oraz ma istotny potencjał erodowania zaufania społecznego.","PeriodicalId":485770,"journal":{"name":"Roczniki Nauk Społecznych","volume":"98 1","pages":""},"PeriodicalIF":0.0000,"publicationDate":"2024-03-28","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"0","resultStr":null,"platform":"Semanticscholar","paperid":null,"PeriodicalName":"Roczniki Nauk Społecznych","FirstCategoryId":"0","ListUrlMain":"https://doi.org/10.18290/rns2024.0009","RegionNum":0,"RegionCategory":null,"ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"","JCRName":"","Score":null,"Total":0}

引用次数: 0

Abstract

Generatywne systemy sztucznej inteligencji (SI) są w stanie tworzyć treści medialne poprzez zastosowanie uczenia maszynowego do dużych ilości danych szkoleniowych. Te nowe dane mogą obejmować tekst (np. Bard firmy Google, LLaMa firmy Meta lub ChatGPT firmy OpenAI) oraz elementy wizualne (np. Stable Diffusion lub DALL-E OpenAI) i dźwięk (np. VALL-E firmy Microsoft). Stopień zaawansowania tych treści może czynić je nieodróżnialnymi od twórczości człowieka. Chatboty cechują się jednak tzw. halucynacjami, które w istotnej części są nowym rodzajem dezinformacji. Celem podjętych badań jest identyfikacja głównych nurtów debaty poświęconej skutkom wykorzystania sztucznej inteligencji ze szczególnym uwzględnieniem dezinformacji z udziałem chatbotów w środowisku mediów. W badaniu przyjęto metodę badawczą systematycznego przeglądu literatury ograniczającą m.in. błąd selekcji. Interpretacja głównych nurtów debaty skłania do wniosku, że dezinformacja chatbotów w postaci ich halucynacji jest znacząca pod względem skali, jest optymalizowana i personalizowana oraz ma istotny potencjał erodowania zaufania społecznego.

查看原文本刊更多论文

聊天机器人的幻觉与真相：主流辩论及其解读

生成式人工智能（AI）系统能够通过对大量训练数据进行机器学习来创建媒体内容。这些新数据可以包括文本（如谷歌的 Bard、Meta 的 LLaMa 或 OpenAI 的 ChatGPT）以及视觉元素（如 OpenAI 的 Stable Diffusion 或 DALL-E）和音频（如微软的 VALL-E）。这些内容的复杂程度可以使其与人类创作的内容无异。然而，聊天机器人的特点是所谓的幻觉，其中一个重要部分就是新型的虚假信息。本研究的目的是确定关于人工智能使用效果的主要讨论趋势，特别是涉及媒体环境中聊天机器人的虚假信息。研究采用了系统文献综述的研究方法，除其他外，限制了选择偏差。通过对辩论主要趋势的解读得出结论：聊天机器人以幻觉形式发布的虚假信息规模巨大、经过优化和个性化处理，而且具有削弱公众信任的巨大潜力。

本文章由计算机程序翻译，如有差异，请以英文原文为准。

求助全文

约1分钟内获得全文求助全文

来源期刊

Roczniki Nauk Społecznych

自引率

0.00%

发文量