OpenAI профінансувала дослідження «ШІ-моралі»

OpenAI фінансує наукові дослідження алгоритмів, здатних передбачати моральні судження людей. Про це пише TechCrunch з посиланням на подану в IRS заяву.

Стартап виділив грант дослідникам Університету Дьюка на проєкт під назвою «Дослідження ШІ-моралі».

Подробиць про роботу мало, а головний дослідник Волтер Сіннотт-Армстронг відмовився коментувати досягнення. Грант закінчується 2025 року.

Раніше Сіннотт-Армстронг та інша учасниця проєкту Яна Борг написали книжку про потенціал ШІ як «морального GPS», що допомагає людям ухвалювати більш обґрунтовані рішення.

Разом з іншими командами вони створили «морально орієнтований» алгоритм, що допомагає вирішувати, кому краще віддати донорські нирки. Також вони оцінили ситуації, коли люди вважали за краще б делегувати ШІ ухвалення рішення.

Мета фінансованої OpenAI роботи полягає в навчанні алгоритмів для «передбачень моральних суджень людини» в ситуаціях, що викликають конфлікти в медичній, правовій та діловій сферах.

Нагадаємо, стартап Сема Альтмана готується до запуску ШІ-агента під кодовою назвою «Оператор».