Чем может быть опасен ChatGPT

Книги научной фантастики и фэнтези преобладают в списке запоминаемых искусственным интеллектом, что не исключает предвзятость ответов, которые может давать ChatGPT.

Исследователи из Калифорнийского университета Беркли утверждают, что ChatGPT запомнил большое количество художественных произведений с оформленными авторскими правами. Но это исключительно юридическая сторона дела. ИИ может полностью воспроизводить или использовать в сгенерированных им текстах защищенные книги, статьи.

В этой ситуации реально повторение коллизии со знаменитыми «селфи макаки», которые обезьяна делала на фотокамеру, оставленную профессиональным фотографом. Суд несколько лет рассматривал дело о том, принадлежат ли авторские права фотографу, который сам не принимал участие в съемке, или ими должна обладать макака. В 2018 году было решено, что нечеловеческие существа не могут иметь авторских прав.

Другая, более серьезная проблема состоит в формировании неверных предубеждений у пользователей ChatGPT. Никто не владеет полной информацией о том, какие источники запоминает ИИ. Коллекция материалов формируется на основе частоты появления отрывков из книг в интернете. Например, научная фантастика и фэнтези преобладают в списке запоминаемых книг.

ChatGPT «заглотил» Поттериану, «1984», произведения Толкиена, «Игру престолов», «Дюну», «Голодные игры» и много других схожих произведений. В нем нет текстов, предназначенных для чтения за пределами англоязычных стран, работ лауреатов множества литературных премий. Недостаточно представлены научные исследования, включая удостоенные Нобелевской премии.

Проведенный анализ приводит к выводу, что ChatGPT должен стать открытой моделью хотя бы в части раскрытия обучающих данных.

Источник: Tech Xplore