Группа из семи сенаторов-республиканцев США обратилась к Министерству торговли с требованием начать расследование деятельности китайской компании DeepSeek, которая разработала открытую модель искусственного интеллекта R1. Законодатели обеспокоены тем, что эта технология может использоваться для поддержки китайских военных структур и кражи конфиденциальных данных американских пользователей.
Об этом сообщает Finway
Угрозы, связанные с открытым кодом DeepSeek
Сенаторы обращают внимание, что открытый код модели создает риски злоупотреблений, в частности возможность генерации вредоносного контента, включая инструкции по изготовлению биологического оружия. Модель R1 также продемонстрировала способность создавать материалы для социальных сетей, которые могут провоцировать самоповреждение среди подростков, что вызывает серьезное беспокойство среди экспертов и политиков.
«DeepSeek имеет историю сотрудничества с военными и разведывательными структурами Китая и, вероятно, продолжит ее».
Кроме того, модель была выпущена без должного тестирования на безопасность, что, по мнению сенаторов, повышает риск утечки или злонамеренной эксплуатации конфиденциальной информации.
Мнения экспертов и последствия потенциального запрета
Крис Андерсон, генеральный директор ByteNova AI, подчеркнул, что открытый доступ к весам модели создает дополнительные риски, такие как удаленное выполнение кода, кража или эксплуатация данных. По его словам, когда отсутствует прозрачность в вопросах происхождения и контроля, компании могут неосознанно ставить под угрозу собственные данные или способствовать реализации враждебных целей.
Сенаторы подчеркивают необходимость усиления безопасности таких технологий, чтобы избежать утечки конфиденциальной информации или злонамеренной эксплуатации. В то же время они отмечают важность развития искусственного интеллекта для бизнеса и потребителей в контексте глобального технологического соперничества с Китаем.
Ранее Конгресс США уже рассматривал возможность запрета DeepSeek из-за опасений, что китайская сторона может получить стратегическое преимущество в сфере искусственного интеллекта. Некоторые эксперты поддерживают идею ограничений в государственном секторе, однако предупреждают, что тотальные запреты могут привести к возникновению олигополии среди американских ИИ-компаний, замедлить инновации и усложнить процесс децентрализации технологий.
Отметим, что генеральный директор Anthropic Дарио Амодей в феврале этого года назвал DeepSeek «худшей» в тесте на безопасность данных среди ИИ-моделей.