Поширити Джерело: Nature
Результати 6 великих досліджень великих мовних моделей показують, що чат-боти ChatGPT і Claude більш прихильно висловлювалися про уряд, коли політичні питання ставилися мовою країни, де держава повністю регулює ЗМІ.
Основні тези:
- ChatGPT і Claude висловлювалися про уряд Китаю більш доброзичливо китайською, ніж англійською.
- Це ще не є підтвердженням безпосереднього втручання урядів у функціонування чат-ботів, але демонструє інший спосіб впливу — через тексти, на яких ці системи навчаються.
ChatGPT і Claude знають, що таке політична цензура
Автори дослідження хотіли з’ясувати, чи може державне регулювання ЗМІ впливати на відповіді чат-ботів.
Для цього вони ретельно зіставили китайські тексти з медіа, що перебувають під контролем уряду, з відкритими наборами даних, які використовуються для навчання мовних моделей.
Загалом було знайдено приблизно 3,1 мільйона китайськомовних документів зі значними відповідностями до таких текстів.
Більше того, зазначено, що комерційні моделі насправді відтворювали характерні вирази з урядових медіатекстів, що свідчило про можливу наявність подібних матеріалів у їхніх навчальних даних.
Подібну тенденцію помітили й у комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм задавали однакові питання про політику Китаю китайською та англійською, відповіді китайською частіше були більш прихильними до уряду Китаю. А в порівнянні 37 країн моделі частіше давали більш прихильні до місцевої влади відповіді мовами країн із більш жорстким регулюванням ЗМІ, ніж англійською.
Поширити