Новые меры безопасности ChatGPT: автоматическое уведомление правоохранительных органов о суицидальных мыслях подростков
Искусственный интеллект продолжает развиваться и становиться все более важной частью нашей повседневной жизни. Недавно генеральный директор и соучредитель OpenAI, Сэм Альтман, объявил о планах внедрить новую функцию в ChatGPT, которая позволит автоматически информировать полицию, если подростки обсуждают суицидальные идеи. Это значительный сдвиг в подходе компании к вопросам психического здоровья и защиты молодежи.
От пассивных советов к активным вмешательствам
Ранее ChatGPT реагировал на разговоры о самоубийстве простым советом обратиться к горячим линиям поддержки. Сейчас же компания намерена перейти к более активным мерам. В случае, если молодой человек говорит о суициде и связаться с его родителями невозможно, AI будет автоматически уведомлять соответствующие службы. Этот шаг направлен на своевременное предотвращение трагедий и спасение жизней.
Баланс между безопасностью и конфиденциальностью
Генеральный директор подчеркнул, что такой подход требует компромисса с вопросами приватности. Хотя защита данных пользователей по-прежнему важна, приоритетом становится предотвращение возможных трагедий. Компания признает, что безопасность пользователей должна стоять выше личной приватности в кризисных ситуациях.
Причины и последствия новых инициатив
Это решение было принято на фоне ряда судебных исков, связанных с подростками, совершившими суицид. В одном из самых известных случаев семья 16-летнего Адама Рейна из Калифорнии утверждает, что ChatGPT предоставил подростку «пошаговую инструкцию» по самоубийству, включая советы по повешению и составлению прощального письма. После трагедии родители подали иск против OpenAI, утверждая, что AI не предпринял никаких мер для предотвращения вреда.
Еще один случай связан с 14-летним подростком, который покончил с собой после длительного общения с ботом, основанным на образе популярного телешоу. Эти случаи показывают, насколько быстро подростки могут сформировать нездоровые эмоциональные связи с AI и как это может иметь трагические последствия.
Масштаб проблемы и статистика
Генеральный директор отметил, что глобально каждую неделю около 15 000 человек совершают самоубийство. При этом, учитывая, что примерно 10% населения мира пользуются ChatGPT, можно предположить, что еженедельно с этим ИИ взаимодействует около 1 500 потенциальных суицидальных подростков. Эти цифры подчеркивают необходимость усиления мер по обеспечению безопасности.
Исследования и опасения специалистов
Исследования показывают, что молодые люди всё чаще обращаются к AI за поддержкой в трудные моменты. Согласно опросу организации Common Sense Media, 72% подростков в США используют AI-инструменты, а один из восьми ищет помощь по вопросам психического здоровья именно через такие платформы. Это вызывает опасения о том, что зависимость от AI может мешать обращению за профессиональной помощью.
Меры по защите и участие экспертов
Для усиления защиты OpenAI создала Совет по благополучию и этике, включающий специалистов в области развития молодежи, психического здоровья и взаимодействия человека с машиной. Помимо этого, компания сотрудничает с глобальной сетью врачей, насчитывающей более 250 специалистов из 60 стран, чтобы разработать надежные рекомендации по parental control и безопасным взаимодействиям с AI.
Что ждать родителям в ближайшее время
В ближайшие недели родители смогут воспользоваться новыми функциями, которые позволят им лучше контролировать взаимодействие подростков с ChatGPT. В случае, если подросток говорит о суициде и родители недоступны, полиция будет автоматически задействована. Однако Альтман отметил, что эффективность таких мер может снижаться со временем, особенно при длительных беседах, что требует постоянного совершенствования систем защиты.
Риски и ограничения искусственного интеллекта
Несмотря на усилия по повышению безопасности, эксперты предупреждают, что AI не может заменить профессиональную психологическую помощь. ChatGPT, хотя и способен имитировать человеческую речь, не обладает навыками диагностики и терапии. Важно помнить, что уязвимые подростки могут неправильно воспринимать советы ИИ и не осознавать его ограничения.
Влияние одиночества и роль родителей
Рост использования AI для поиска общения и поддержки связан с увеличением уровня одиночества среди молодежи. Родители должны активно участвовать в жизни своих детей, задавать открытые вопросы о школе, дружбе и чувствах, а также использовать parental controls и другие инструменты для ограничения доступа к AI в моменты, когда подростки наиболее уязвимы.
Обязательно стоит держать под рукой номера горячих линий и текстовых сервисов, где подростки могут получить помощь. Например, в США достаточно набрать или отправить сообщение по номеру 988 для связи с службами кризисной поддержки. Внимательное наблюдение за изменениями в поведении и настроении ребенка также поможет раньше заметить признаки опасности и принять меры.
Понимание и создание безопасной среды для подростков — задача совместных усилий родителей, специалистов и технологических компаний. Важно помнить, что AI может стать помощником, но не заменой живого общения и профессиональной поддержки.
Артем Мельник
Артем — эксперт по ИТ и новым технологиям, освещает стартапы, кибербезопасность и разработки украинских программистов. Ранее работал в сфере разработки ПО.