Явление DeepSeek
Акции нескольких крупнейших американских компаний, таких как Nvidia, Microsoft и Meta, резко упали в январе после того, как китайская компания DeepSeek, занимающаяся разработкой алгоритмов искусственного интеллекта, поставила под сомнение «ауру непобедимости», окружающую американскую технологическую индустрию. В частности, в тот день DeepSeek представила модель искусственного интеллекта, по производительности сопоставимую с западными чат-ботами, такими как ChatGPT, но по гораздо более низкой цене. Вскоре после запуска эта недорогая модель стала самым скачиваемым бесплатным приложением в Apple App Store в США, обогнав ChatGPT. Это «момент Спутника для ИИ», — считает венчурный капиталист Кремниевой долины и советник Дональда Трампа Марк Андреессен, ссылаясь на спутник, запущенный Советским Союзом в 1957 году, когда США были удивлены технологическими достижениями соперника. Насколько ценным является достижение китайской компании и с какими проблемами оно связано? Флорин Зеру, специалист по стратегическим коммуникациям SNSPA:
Corina Cristea, 14.02.2025, 16:29
Акции нескольких крупнейших американских компаний, таких как Nvidia, Microsoft и Meta, резко упали в январе после того, как китайская компания DeepSeek, занимающаяся разработкой алгоритмов искусственного интеллекта, поставила под сомнение «ауру непобедимости», окружающую американскую технологическую индустрию. В частности, в тот день DeepSeek представила модель искусственного интеллекта, по производительности сопоставимую с западными чат-ботами, такими как ChatGPT, но по гораздо более низкой цене. Вскоре после запуска эта недорогая модель стала самым скачиваемым бесплатным приложением в Apple App Store в США, обогнав ChatGPT. Это «момент Спутника для ИИ», — считает венчурный капиталист Кремниевой долины и советник Дональда Трампа Марк Андреессен, ссылаясь на спутник, запущенный Советским Союзом в 1957 году, когда США были удивлены технологическими достижениями соперника. Насколько ценным является достижение китайской компании и с какими проблемами оно связано? Флорин Зеру, специалист по стратегическим коммуникациям SNSPA:
«Я рассматриваю момент с DeepSeek как ящик Пандоры. Я имею в виду широкую доступность, огромную силу и скрытые риски. Представьте себе ящик Пандоры из греческой мифологии. Но на этот раз вместо физического ящика у нас есть компьютерная программа, модель искусственного интеллекта, очень мощная, полная обширных знаний и впечатляющих способностей. Но, как и в мифе, этот ящик также имеет оговорку. Это не просто коробка, а коробка, которая, будучи открытой, выпускает в мир как хорошее, так и плохое. А DeepSeek благодаря своему открытому исходному коду и поразительной эффективности делает эту шкатулку доступной практически для всех. И вот в чем главная проблема, вот в чем параллель с мифом о Пандоре: как только вы открыли ящик, пути назад уже нет. Как только вы сделали такой мощный инструмент доступным для всех, у вас больше нет полного контроля над тем, как он будет использован. И, к сожалению, у DeepSeek есть слабое место: его можно обмануть. С помощью специальных инструкций, называемых Jailbreak prompts, пользователи могут обойти ограничения, наложенные программистами, и получить ответы, которые DeepSeek обычно отвергает. И если в руках специалистов DeepSeek может использоваться для ускорения научных исследований, создания новых лекарств, разработки решений сложных проблем, то в руках злоумышленников этот же инструмент может использоваться для генерации дезинформации, создания вредоносного кода или даже для планирования атак. Это все равно что дать каждому человеку с улицы доступ к высокотехнологичному оборудованию, не убедившись в том, что он использует его ответственно».
Производство приложения обошлось примерно в тысячу раз дешевле, чем инвестиции крупных американских компаний, занимающихся разработкой искусственного интеллекта. Как DeepSeek может позволить себе такие низкие цены? Потому что его поддерживает китайское государство, говорит Флорин Зеру:
«Это символ амбиций Китая стать мировым лидером в области искусственного интеллекта. Это сигнал о том, что Пекин вкладывает значительные средства в эту область и намерен догнать США. До сих пор Соединенные Штаты удерживали явное лидерство в области искусственного интеллекта благодаря таким компаниям, как OpenAI, Google, Microsoft, но DeepSeek показывает, что это доминирование больше не гарантировано, и Китай стремительно наступает на пятки, причем разрыв быстро сокращается».
Успех DeepSeek стал неожиданностью еще и потому, что он произошел в то время, когда США, ссылаясь на национальную безопасность, уже много лет предпринимают усилия по ограничению продажи Китаю передовых чипов искусственного интеллекта. Обеспокоенность вызывает и тот факт, что данные, полученные от пользователей, хранятся на серверах в Китае под контролем двух зарегистрированных китайских компаний, что подтвердили в DeepSeek. Сюда входит информация о профиле, запросы пользователей, техническая информация, информация об использовании, файлы cookie и платежная информация. Что здесь поставлено на карту? Флавия Дурах, специалист по коммуникациям:
«Речь идет не только о том, что мы знаем о конкретном человеке, но и о том, что мы знаем о конкретном профиле интернет-пользователя. Обычно это работа с тенденциями. Конечно, вы можете шпионить за человеком, основываясь на его интернет-активности. Но с точки зрения, например, конкуренции между странами, как это было в дискуссии между США и Китаем, я думаю, что это скорее вопрос доступа к большим массивам данных, которые можно интерпретировать как статистику. И это, с одной стороны, может помочь улучшить качество продуктов и услуг компании. Она может стать лучше по отношению к своим конкурентам именно потому, что имеет доступ к данным, которые позволяют ей развивать все виды сопутствующих услуг, уже зная, каков профиль публики, чего она хочет, каково ее поведение. С точки зрения борьбы между государствами, это также может быть проблемой попыток манипулировать, влиять, вмешиваться в выборы, когда они могут нацелиться на общественность, зная ее профиль, ее поведение и предпочтения, с персонализированными сообщениями, чтобы повлиять на нее».
На личном уровне, говорит Флавия Дурах, мы можем говорить о попытках взлома, краже личных данных, существует множество способов причинить вред с помощью данных, в зависимости от контекста и обстоятельств.
(Corina Cristea)
