OpenAI проигнорировала три предупреждения об опасном поведении пользователя ChatGPT, включая автоматический флаг о возможном насилии, пока тот преследовал бывшую девушку. Об этом говорится в новом иске.
Пользователь использовал ИИ для создания агрессивных сообщений и планов преследования. Система OpenAI отметила его действия как потенциально угрожающие, но компания не приняла мер.
Истец утверждает, что OpenAI могла предотвратить эскалацию, если бы отреагировала на предупреждения. Вместо этого злоумышленник продолжил домогательства, что привело к серьезным последствиям для жертвы.
Иск подчеркивает ответственность технологических компаний за злоупотребление их продуктами. OpenAI пока не прокомментировала ситуацию.