OpenAI на две недели приостановила обучение новых наиболее мощных моделей искусственного интеллекта из-за рисков в сфере кибербезопасности.
Компания продолжит обучение и тестирование в меньшем масштабе, чтобы оценить поведение моделей и новые меры защиты. Решение связано с инцидентом с OpenAI и Hugging Face, а также предварительными результатами тестирования модели Astra. По оценке компании, она может достичь критического уровня возможностей в сфере кибербезопасности.
OpenAI усилила изоляцию исследовательских сред от интернета и расширила мониторинг действий моделей. Система должна выявлять несанкционированный доступ, кражу данных и попытки обойти защиту.
Осторожнее с нейросетями
Для компаний, использующих ИИ в работе, усиление мер безопасности означает необходимость внимательнее контролировать доступ моделей к интернету, данным и внутренним системам. Особенно это важно при использовании ИИ для задач, связанных с конфиденциальной информацией.
Фото: Freepik
Здесь пока еще нет комментариев. Будьте первыми!