Користувачі наповнили Sora діпфейками із Семом Альтманом

Новий соціальний застосунок Sora від OpenAI швидко заполонили діпфейки з CEO компанії Семом Альтманом.

В одному з відео зображена фабрика рожевих свиней, перед кожною з яких стоїть годівниця та смартфон із вертикальною відеострічкою, а фейковий Альтман дивиться в камеру й питає:

«Мої поросята задоволені своїми помиями?»

В іншому ролику ШІ-Альтман говорить, що контент може порушувати правила використання образів третіх осіб.

OpenAI покращила фізику у відеогенераторі Sora 2, який лежить в основі застосунку. Це зробило відео більш реалістичними, але водночас спростило поширення дезінформації.

Ключовою функцією Sora поряд із алгоритмічною стрічкою та профілями є інструмент cameo. Він дозволяє завантажувати особисті дані та використовувати їх у відео.

Користувач може обрати, хто має право створювати ролики з його cameo: «тільки я», «люди, яких я схвалю», «взаємні підписники» або «всі».

Альтман відкрив доступ до свого cameo для всіх, через що стрічка Sora наповнилася роликами, де «Пікачу» й «Губка Боб» просять його припинити навчати ШІ на їхніх образах.

Етичність запуску

Декілька нинішніх і колишніх співробітників OpenAI прокоментували перший крок компанії в соціальні мережі.

AI-based feeds are scary. I won’t deny that I felt some concern when I first learned we were releasing Sora 2.
That said, I think the team did the absolute best job they possible could in designing a positive experience. Compared to other platforms, I find myself scrolling way… https://t.co/uLeeVMKncl

— John Hallman (@johnohallman) 30 вересня 2025

«Стрічки на основі ШІ лякає. Не заперечуватим, я відчув занепокоєння, коли дізнався про запуск Sora 2. Але вважаю, що команда зробила все можливе, аби створити позитивний досвід. Ми намагаємося, щоб штучний інтелект допомагав, а не шкодив людству», — написав співробітник OpenAI Джон Холлман, який займається предобученням моделей.

Він назвав Sora 2 «вражаючою технологією».

«Мені було б сумно, якби ми не випустили її лише через страх, що щось може піти не так», — додав він.

Дослідник OpenAI та професор Гарварду Боаз Барак зізнався, що відчуває «суміш тривоги та захоплення».

«Технічно Sora 2 вражає, але ще зарано святкувати успіх — ми не впевнені, чи вдасться уникнути проблем, властивих іншим соцмережам і діпфейкам», — написав він.

Серед переваг він відзначив водяний знак на відео при експорті, обмеження використання cameo лише для реальних людей та можливість контролювати, як застосовують особистість користувача.

Альтмана розкритикували за створення соцмережі з діпфейками замість роботи над штучним загальним інтелектом (AGI). Він пояснив, чому компанія робить це:

«[…] Нам дійсно потрібен капітал для розробки ШІ, здатного займатися наукою. Майже всі наші зусилля зосереджені на AGI. Але водночас ми хочемо демонструвати людям нові цікаві продукти, дарувати позитивні емоції та заробляти кошти, зважаючи на великі потреби в обчислювальних ресурсах. Коли ми запустили ChatGPT, теж було багато скепсису на кшталт “навіщо це взагалі і де ж AGI” […]».

У червневому подкасті Альтман говорив про «велику помилку соцмереж»:

«Однією з ключових проблем епохи соцмереж стало те, що алгоритми стрічок призвели до маси непередбачуваних негативних наслідків для суспільства і людей. Хоча вони виконували саме те, що хотів користувач, це змушувало людей залишатися на сайті дедалі довше».

Раніше OpenAI запустила окрему версію ChatGPT із батьківським контролем для користувачів молодше 18 років.