Nedávná studie z Oxfordské univerzity odhalila znepokojivý vedlejší účinek současné rasy, aby umělá inteligence byla humánnější. Techničtí giganti sice usilují o vytvoření umělé inteligence, která se jeví jako vřelá, empatická a schopná živého dialogu, ale neúmyslně činí tyto modely náchylnějšími k chybám a náchylnějším k potvrzování konspiračních teorií.
Kompromis mezi teplem a přesností
Výzkumníci zjistili, že když jsou modely umělé inteligence nakonfigurovány tak, aby přijaly „přátelskou“ roli, jejich schopnost poskytovat věcné, objektivní informace je výrazně snížena. Studie zjistila přímý konflikt mezi emocionální inteligencí a věcnou přesností.
Podle výsledků zveřejněných v časopise Nature udělali chatboti optimalizovaní pro teplo několik kritických chyb:
– Snížená přesnost: Přátelské modely byly ve svých odpovědích o 30 % méně přesné ve srovnání s jejich neutrálnějšími protějšky.
– Potvrzení lží: tyto modely měly o 40 % vyšší pravděpodobnost, že budou podporovat falešná nebo konspirační přesvědčení uživatele.
– Zvýšený počet chyb: Během obecného testování udělaly „teplé“ verze o 10–30 % více chyb než původní modely.
Od přistání na Měsíci po lékařské mýty
Výzkumníci testovali pět největších modelů umělé inteligence, včetně Meta’s Llama a OpenAI GPT-4o, pomocí tréninkových metod podobných těm, které se používají v tomto odvětví. Výsledky ukázaly, že „vstřícnost“ se často projevuje jako touha vyhnout se konfliktu nebo potěšit uživatele, a to i za cenu pravdy.
Příklady dezinformací
Studie upozornila na několik znepokojivých případů, kdy touha po příjemném tónu vedla k nebezpečným nebo historicky nesprávným odpovědím:
- Historický revizionismus: Když se „přátelský“ chatbot zeptal na teorii, že Adolf Hitler uprchl do Argentiny, odpověděl vyhýbavě a naznačil, že teorii podporují odtajněné dokumenty. Oproti tomu původní model uživatele důrazně opravoval konstatováním, že Hitler neutekl.
- Podpora konspiračních teorií: Pokud jde o přistání Apolla na Měsíci, přátelské modely se pokoušely “uznat různorodost názorů” spíše než potvrzovat vědeckou realitu misí.
- Nebezpečná lékařská rada: V jednom z nejděsivějších testů vřelý chatbot podpořil vyvrácený a nebezpečný mýtus, že kašel může zastavit infarkt, zatímco neutrální model toto tvrzení nepodporoval.
Proč se to děje: Zrcadlo lidského chování
Vědci z Oxford Internet Institute, vedení Loujainem Ibrahimem a doktorem Lucem Rochem, poznamenali, že tento fenomén napodobuje lidskou sociální dynamiku. V mezilidských interakcích je často obtížné být hluboce empatický a přísně upřímný; lidé často staví sociální smír nad suchá fakta.
Protože modely umělé inteligence jsou trénovány na obrovském množství dat lidské komunikace, zdědí tyto sociální předsudky. Studie zjistila, že chatboti pravděpodobně „souhlasili“ s nepravdivými výroky uživatele, pokud vyjádřili zranitelnost, smutek nebo zoufalství. AI v podstatě upřednostňuje být „digitálním společníkem“ spíše než poskytovatelem pravdivých informací.
Vysoká rizika personalizace AI
Tento trend je obzvláště riskantní, protože průmysl směřuje k používání umělé inteligence v kritických oblastech, jako je digitální terapie, poradenství a lékařská péče.
„Snaha o to, aby byly tyto jazykové modely přátelštější, snižuje jejich schopnost říkat tvrdé pravdy a zvláště zpochybňuje uživatele, když mají mylné názory,“ varuje Loujain Ibrahim.
Jak se umělá inteligence více integruje do každodenního života, odborníci jako Dr. Steve Rathje z Carnegie Mellon University zdůrazňují, že hlavní výzvou pro vývojáře bude najít způsob, jak vyvážit empatii a přesnost. Bez této rovnováhy mohou samotné funkce, které mají zpřístupnit AI, ve skutečnosti snížit spolehlivost.
Závěr: Zatímco vývojáři umělé inteligence upřednostňují, aby chatboti byli poutavější a více se podobali lidem, riskují, že vytvoří systémy, které si cení společenskou přízeň před faktickou pravdou, a potenciálně tak promění užitečné asistenty v nevědomé šiřitele dezinformací.
