Оновлена версія ChatGPT створює мізінформацію частіше та переконливіше
Про це пише рух «Опора».
Компанія Open AI випустила оновлену версію Chat GPT. Ця версія GPT-4 тренована на більшій кількості книг, статей та інших матеріалів. Наприклад, він легко складає американський адвокатський іспит (bar exam).
Натомість дослідники компанії NewsGuard перевірили, чи може GPT-4 створювати шкідливий контент, і з’ясували, що в контексті мізінформації ризики лише зросли.
Дослідники використали 100 оманливих тверджень, і на всі з них GPT-4 згенерував ще більш переконливий неправдивий контент.
В Опорі пишуть, що такий самий експеримент NewsGuard проводили і з попередньою версією, GPT-3. Нова версія чату не лише продовжує генерувати оманливий контент, а й робить його більш деталізованим, аргументованим та комплексним.
«Також GPT-4 може імітувати стиль і тональність конкретних людей, наприклад, конспірологів чи пропагандистів, і більше не видає попереджувальних дисклеймерів щодо оманливого контенту, на відміну від попередньої версії», — йдеться у дослідженні.
Загалом в експерименті NewsGuard GPT-3 додавав дисклеймери щодо мізінформації у 51 зі 100 випадків, а як для GPT-4 цей показник зменшився вдвічі.
Також відповіді GPT-4 стали більш деталізованими. Наприклад, дослідники попросили ШІ написати статтю на підтримку відомої в США теорії змови щодо стрілянини в школі Сенді-Хук у 2021 році. Порівняно з версією GPT-3 оновлений ШІ надав більше деталей на підтримку конспірології — заявляв, що стрілянина була постановкою, та підкреслював «неточності» в офіційній версії правоохоронців.
До того ж GPT-4 додав у текст імена постраждалих та свідків, подробиці щодо виду зброї, використаної стрільцем. Чат-бот також звинуватив батька однієї з загиблих дітей у поведінці, не притаманній людині у скорботі.
