Приложение Sora 2 от OpenAI выявило антисемитские видеоролики ИИ -сообщает из www.adweek.com

Ахмед сказал, что заверения OpenAI кажутся пустыми. «Неправдоподобно с их стороны говорить, что они объединили усилия, если они не предсказывали, что люди будут использовать это для создания расистского контента», — сказал он. «Поразительно, что самые умные инженеры в мире не могут создать что-то, что могло бы остановить распространение антисемитизма их службами».

Это не первый раз, когда OpenAI подвергается тщательной проверке из-за контроля безопасности. Ранее в этом году компания столкнулась с негативной реакцией после сообщений о том, что ее чат-бот ChatGPT предоставил подростку, склонному к суициду, информацию о методах членовредительства — эпизод, который вызвал более широкую обеспокоенность по поводу того, насколько эффективно OpenAI обеспечивает соблюдение своих защитных мер во всех продуктах.

«В конечном итоге модерация контента может стать весьма субъективной, когда платформа сама решает, что именно следует модерировать», — сказал Смайли из Emarketer.