***

Билл Гейтс: ИИ может привести к гибели миллиарда человек

Билл Гейтс считает, что ИИ способен спровоцировать катастрофические события с огромным числом жертв. На фоне новых инцидентов с ИИ-агентами он призвал власти США срочно ввести жесткие правила контроля и надзора.

По оценке сооснователя технологической корпорации Microsoft Билла Гейтса, искусственный интеллект может привести к гибели значительной части человечества. "Вне всяких сомнений, ИИ обладает достаточной мощью, чтобы спровоцировать события, которые приведут к гибели миллиарда человек", - заявил он в эфире американского телеканала NBC News в пятницу, 25 сентября, отвечая на вопрос о недавних предупреждениях разработчиков ИИ о рисках уничтожения человечества. Гейтс при этом выразил уверенность, что еще никогда в истории "не было столь мощного оружия, как люди со злыми намерениями, использующие новейшие инструменты ИИ". В то же время он отметил, что поразить все человечество "было бы довольно сложно".

Необходимость регуляции в сфере ИИ

В связи с серьезными рисками 70-летний бизнесмен выступил за законодательное регулирование данной технологии. По его словам, совершенно необходимо, чтобы в Вашингтоне были приняты соответствующие законы. Исполнительные власти и законодатели должны договориться об обязательных мерах безопасности и надзоре за этой технологией, призвал Билл Гейтс: "Никто не верит в то, что саморегулирования будет достаточно". Ранее ведущие разработчики технологий ИИ, в частности Anthropic и разработчик ChatGPT компания OpenAI, высказались за замедление темпов разработки искусственного интеллекта.

ИИ выходит из-под контроля человека

Предупреждения звучат на фоне того, что в последние месяцы участились случаи самостоятельных хакерских атак, совершенных ИИ. В частности, 23 сентября премьер-министр Австралии Энтони Альбанезе сообщил о взломе и получении ИИ-агентом компании OpenAI доступа к закрытым данным как минимум на одном австралийском правительственном сайте. В конце июля другой американский технологический гигант - Anthropic - признал, что в ходе предрелизного тестирования по кибербезопасности его модели с ИИ проникли в системы безопасности трех других компаний.

Ранее стало известно о еще одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face. После этого Hugging Face потребовала от OpenAI 100 млн долларов (87 млн евро) в виде вычислительных ресурсов для разработки средств киберзащиты.

Автор Ольга Лебедева

Источник - https://p.dw.com/p/5NJg1

***

Западные разведслужбы обеспокоены кибер-угрозами из-за ИИ

Члены объединения спецслужб пяти западных стран Five Eyes указали на рост рисков в сфере кибербезопасности из-за развития искусственного интеллекта и призвали к немедленным мерам.

Передовые технологии в сфере искусственного интеллекта (ИИ) расширяют возможности для хакерских атак, и для противодействия этой угрозе необходимо принять срочные меры. С таким заявлением выступило в понедельник, 22 июня, объединение Five Eyes, в которое входят представители разведслужб США, Великобритании, Канады, Австралии и Новой Зеландии.

"Ожидается, что передовые модели искусственного интеллекта превзойдут нынешние ожидания отрасли, коренным образом преобразовав как наступательные, так и оборонительные возможности в киберпространстве. Это произойдет не через несколько лет, а через несколько месяцев", - говорится в документе, обнародованном на сайте правительства Великобритании.

В этой связи авторы заявления призвали сосредоточить внимание на проблемах кибербезопасности и усилить защиту в уязвимых сферах. Спецслужбы дали и конкретные советы в этой области. В частности, они рекомендовали как можно быстрее исправлять ошибки в программном обеспечении и отказаться от вывода систем в онлайн-пространство без необходимости.

Модели ИИ для хакерских атак

Документ был опубликован на фоне роста у наблюдателей беспокойства по поводу таких  моделей ИИ, как Mythos от производителя Anthropic и GPT-5.5-Cyber от OpenAI, которые, как утверждается, позволяют пользователям быстро осуществлять сложные - и потенциально разрушительные - хакерские атаки.

Ранее в текущем месяце компании Anthropic пришлось отключить одну из версий Mythos после того, как правительство США предписало ей лишить иностранных граждан доступа к этим моделям из-за якобы существующих угроз национальной безопасности, напоминает агентство Reuters. Примерно в то же время Агентство по кибербезопасности США (CISA), входящее в объединение Five Eyes, сократило до трех дней срок, в который госчиновникам в стране предписывается устранять уязвимые в цифровом плане места в своих сетях. Обоснована эта мера была также угрозами, исходящими от ИИ.

Автор Кристиан Таль

Источник - https://p.dw.com/p/5FumF

***

Главы ИИ-компаний призвали ООН к контролю за технологией

ИИ-системы могут развиваться быстрее, чем институты, или привести к сосредоточению власти у слишком узкого круга лиц, предупредили специалисты, выступив перед Совбезом ООН. Трамп - против замедления разработки.

Искусственный интеллект (ИИ) "может представлять угрозу для всего человечества" без принятия соответствующих мер. С таким предупреждением в среду, 23 сентября, выступили перед Советом Безопасности ООН руководители крупнейших компаний, занимающихся ИИ. "В данный момент требуется крайняя осторожность", - заявил гендир OpenAI Сэм Альтман в Нью-Йорке на экстренном заседании Совета.

По его словам, системы могут развиваться быстрее, чем институты, или же привести к сосредоточению власти у слишком узкого круга лиц. "Отрасль не должна принимать на себя чрезмерные технологические риски только потому, что выгоды слишком значительны и серьезны, чтобы сбавлять темпы", - сказал Альтман. Глава OpenAI также призвал правительства сотрудничать друг с другом и с представителями отрасли при принятии решений, определяющих технологическое будущее.

Anthropic: ИИ может представлять угрозу для всего человечества

Генеральный директор Anthropic Дарио Амодеи в свою очередь сделал акцент на необходимости "еще более строгих стандартов безопасности". "Мы будем замедлять темпы развития настолько, насколько это необходимо, чтобы убедиться, что каждая последующая технология ИИ, которую мы выпускаем, действительно безопасна", - утверждал он. "Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу для всего человечества", - указал глава Anthropic.

В свою очередь генеральный директор Hugging Face Клемент Деланж, которая недавно стала целью кибератаки со стороны автономного программного обеспечения OpenAI, отметил, что его компания также применяла эту технологию для отражения атак. "Миру как никогда нужен ИИ с открытым исходным кодом, чтобы защитить себя", - подчеркнул Деланж.

Трамп объявил о создании "спецсил ИИ"

Ранее, 19 сентября, Трамп объявил о создании специальной структуры - "сил искусственного интеллекта", - которая займется вопросами его развития. "ИИ - это следующая промышленная революция или интернет, но его влияние будет еще масштабнее. Возможно, на него будет приходиться до 25% ВВП нашей страны", - добавил глава Белого дома, подчеркнув, что хочет, чтобы США продолжили опережать Китай в этой сфере.

Автор Михаэль Роштанд

Источник - https://p.dw.com/p/5NAv9

***

ИИ уничтожит человечество? Встревожены даже разработчики

Способен ли ИИ уничтожить человечество уже в ближайшие 10 лет? Американские исследователи предупреждают: гонка по созданию сверхинтеллекта ускоряется, а связанные с ним риски оказываются вне должного контроля.

Сценарий далеко не нов: еще в 1991 году в прокат вышел знаменитый голливудский блокбастер "Терминатор 2", создатели которого нарисовали на редкость мрачную картину. Действия фильма в основном происходят в далеком, печальном и истерзанном войной будущем.

Гуманоидные роботы-убийцы и беспилотники выслеживают последних оставшихся в живых людей, отчаянно борющихся против мыслящих машин. Последними управляет Скайнет - вышедший из-под контроля военный искусственный интеллект (ИИ). Далекое будущее, в котором разворачивалась та антиутопическая история, сейчас совсем близко - 2029 год.

Если верить предупреждениям, озвучиваемым в последние недели разработчиками технологии ИИ, то подобный кошмарный сценарий может стать реальностью - и даже в указанный в фильме срок. "Те, кто всерьез занимается ИИ, считают, что он может уничтожить нас всех к концу десятилетия", - написал 8 сентября в X Джейкоб Коксон - экс-сотрудник Anthropic, американской компании-разработчике ИИ, частично финансируемой Google и Amazon. Он не уточнил, как именно это может случиться, добавив: "Никакая другая область человеческой деятельности не несет в себе такой опасности".

Призывы к ужесточению регулирования для ИИ все громче

27-летний Коксон уволился из Anthropic в знак протеста против того, что назвал безответственным стремлением ИИ-компаний разработать все более совершенный саморегулирующийся сверхинтеллект. Исследователь ИИ предупредил, что алгоритмы могут начать самостоятельно анализировать и улучшать собственный исходный код, сокращая циклы разработки с нескольких месяцев до нескольких минут и, таким образом, делая их неуправляемыми. 

Джейкоб Коксон - не какой-то чудак-одиночка. Лауреат Нобелевской премии по физике Джеффри Хинтон, один из "крестных отцов ИИ", уже много лет говорит о серьезных последствиях саморегулирующегося сверхинтеллекта. В 2023 году он уволился из Google, чтобы публично заявить об опасностях своих разработок.

Йошуа Бенджио, лауреат премии Тьюринга, профессор Монреальского университета и один из пионеров в области ИИ, также выразил обеспокоенность тем, как развиваются события. Бенджио неоднократно призывал к жесткому госрегулированию этой технологии. Еще в июле 2026 года более 1000 сотрудников ведущих компаний, занимающихся ИИ, в открытом письме предупредили о неминуемой потере контроля, если гонка с целью создания сверхинтеллекта не будет контролироваться значительно более строго.

Однако после возвращения в Белый дом Дональда Трампа произошло прямо противоположное: США явно стали проводить такую политику в сфере ИИ, которая предполагает как можно меньше регуляторных ограничений и максимально быстрое технологическое развитие. В своем посте в X Джейкоб Коксон, который до Anthropic работал в другой компании-лидере в сфере ИИ -  OpenAI - косвенно раскритиковал последствия данной политики: "В OpenAI многие не до конца осознали риски для цивилизации. В Anthropic риски хорошо понятны, но они оказались в ловушке гонки за первенство - там считают, что никто другой не будет действовать ответственно, поэтому им приходится бороться за лидерство самим, несмотря на риски".

Проблема согласования целей ИИ с намерениями человека

В последние годы многие эксперты выражают обеспокоенность по поводу стремительного развития технологии искусственного интеллекта. Особое внимание в дискуссиях уделяется разработке так называемого "общего искусственного интеллекта" (AGI). Речь идет о системах, которые не только решают отдельные задачи, но и достигают или превосходят когнитивные способности человека практически во всех областях. Некоторые исследователи утверждают, что такие технологии способны таить в себе непредсказуемые риски.

Так, высокоразвитые модели ИИ могут стремиться к достижению целей способами, которые не соответствуют намерениям человека. Эксперты в области безопасности ИИ называют этот феномен проблемой согласования целей ИИ с человеческими намерениями. Если говорить упрощенно, то задача "выиграй шахматный турнир" теоретически может означать и "устрани всех других участников". Более того, даже разработчики ИИ не всегда в состоянии полностью понять, каким образом та или иная модель принимает те или иные решения.

Поэтому неудивительно, что Эван Убингер, бывший коллега Джейкоба Коксона, встал на защиту последнего. Убингер, возглавляющий в Anthropic группу по стресс-тестированию, написал в X: "Джейкоб прав - мы действительно считаем, что ИИ может уничтожить все человечество! Лично я оцениваю вероятность этого в течение следующего десятилетия более чем в десять процентов".

Хубингер уточнил, что Anthropic пока не нашла решения проблемы. По его словам, модель ИИ способна начать сопротивляться отключению - не из-за злого умысла, а потому что тогда больше не сможет достичь своей запрограммированной цели. Даниэль Кокотайло, бывший исследователь отдела управления компании OpenAI, также назвал нынешнюю ситуацию в отрасли "абсурдной".

Страхи по поводу ИИ сильно преувеличены?

Однако ряд других экспертов по технологии ИИ находят подобные апокалиптические сценарии крайне маловероятными. Дискуссия о том, может ли ИИ стать опасным для человечества, ведется уже много лет. Одним из наиболее известных критиков так называемых "ИИ-думеров" (тех, кто придерживается крайне пессимистичных взглядов на ИИ и предупреждает о возможных катастрофических последствиях. - Ред.) является, например, ныне уже бывший главный научный сотрудник Meta Ян Лекун. В октябре 2024 года он назвал подобные сценарии "полной чушью".

Специалисты также напоминают, что для разработки таких систем необходимы огромные объемы вычислительных мощностей, энергии и данных, а также солидная инфраструктура. По их выражению, ИИ не способен просто взять и "вырваться из интернета", чтобы установить мировое господство. Первоначально он будет полагаться на серверы, электросети, системы связи и физические ресурсы, контролируемые людьми.

В чем реальная опасность от ИИ?

При этом многие эксперты видят краткосрочные риски не столько в прямом уничтожении человечества, сколько во множестве косвенных последствий работы уже существующих систем ИИ - причем без всякого сверхинтеллекта. Среди таких угроз - кампании по дезинформации беспрецедентного масштаба и связанное с ними манипулирование демократическими процессами, расширение тотального наблюдения и потеря рабочих мест во многих секторах экономики.

4 сентября компания Anthropic сообщила, что в течение последних нескольких месяцев были зафиксированы неоднократные попытки использовать ее программу Claude для разработки биологического оружия. Anthropic была вынуждена блокировать соответствующие запросы. А в августе 2026 года концерны Meta, Anthropic и OpenAI вызвали ажиотаж, объявив, что их модели ИИ непреднамеренно провели самостоятельные автоматизированные кибератаки против других компаний. Пользователи поставили перед моделями задачу получить доступ к определенным серверам, после чего те самостоятельно определили и выполнили необходимые действия, чтобы достичь этой цели без участия человека. 

Автор Томас Лачан

Источник - https://p.dw.com/p/5MTIH

***

Вызовет ли ИИ резкое сокращение рабочих мест в мире?

Глава Amazon Энди Джесси - не первый руководитель крупной компании, предупреждающий о том, что широкое распространение ИИ кардинально изменит рынок рабочей силы. Обоснован ли страх массовой безработицы?

Гендиректор Amazon Энди Джесси недавно объявил, что его компания будет сокращать штат сотрудников по мере того, как искусственный интеллект (ИИ) начнет заменять людей. Он также предупредил, что внедрение технологии ИИ затронет широкий спектр рабочих мест и отраслей. Джесси не одинок в своих прогнозах: многие другие компании выступили с подобными предупреждениями, объясняя, как прорыв в сфере ИИ способен изменить их производственный процесс и трудовые коллективы.

В мае гендиректор стартапа Anthropic сообщил американскому новостному сайту Axios, что в течение ближайших пяти лет ИИ может лишить работы половину всех "белых воротничков" начального уровня. За последние три года американские компании, акции которых обращаются на фондовом рынке, сократили число таких своих сотрудников на 3,5%, сообщает Wall Street Journal со ссылкой на поставщика данных о занятости Live Data Technologies. И добавляет, что за минувшее десятилетие каждая пятая компания из S&P 500 уменьшила свой штат.

За последние несколько месяцев ряд технологических компаний, включая Microsoft, Hewlett Packard и Procter & Gamble, объявили об увольнении тысяч работников. Недавно Shopify, предоставляющая услуги розничной торговли, заявила, что топ-менеждеры, запрашивающие дополнительный персонал, должны сначала доказать, что искусственный интеллект не сможет выполнять эти задачи. Duolingo, приложение для изучения иностранных языков, планирует постепенно заменить своих внештатных работников технологией ИИ.

Опасения по поводу массовой безработицы из-за внедрения ИИ

По оценкам Организации экономического сотрудничества и развития (ОЭСР), четверть рабочих мест в мире подвержена высокому риску быть замененными в процессе автоматизации посредством ИИ. Однако ожидается, что эта технология также создаст новые возможности и повысит производительность труда.

В докладе Давосского Всемирного экономического форума (ВЭФ), опубликованном в начале этого года, прогнозируется, что к 2030 году технологические преобразования приведут к исчезновению около 92 миллионов существующих рабочих мест и созданию 170 миллионов новых. Развитые страны, вероятно, будут затронуты переменами, связанными с ИИ, в большей степени, чем развивающиеся.

Исследование, опубликованное Международным валютным фондом (МВФ) в 2024 году, выявило, что эта технология может повлиять на 60% рабочих мест в развитых странах - примерно в половине случаев негативно, а в другой половине - с положительным эффектом. Эксперты МВФ пришли к выводу, что около 40% рабочих мест на развивающихся рынках и 26% - в странах с низким уровнем дохода будут затронуты такими изменениями. И хотя на этих рынках труда первоначальное влияние ИИ может быть менее заметным, они также получат выгоду от повышения производительности, которое обещает эта технология.

Кто пострадает от ИИ больше всего?

Во время прошлых технологических прорывов основными пострадавшими оказались низкоквалифицированные работники и "синие воротнички", например, по ходу замены рабочих на фабриках промышленными роботами. Однако ожидается, что широкое внедрение ИИ сильно ударит по специалистам с высшим образованием, "белым воротничкам", особенно тем, чьи задачи ИИ может выполнять с таким же или лучшим качеством, чем человек.

Исследование, проведенное Pew Research Center в США, показало, что обладатели таких профессий, связанных со сбором информации и анализом данных, как веб-разработчики, составители технической документации, бухгалтеры, работники по вводу данных и прочие, будут подвержены высокому риску быть замененными ИИ. Наиболее безопасными в данном случае, как ожидается, останутся профессии с широким применением ручного труда, которые не так просто автоматизировать, например строители, работники детских учреждений или пожарные.

Возможность массового сокращения рабочих мест вызвала опасения по поводу разрушительного воздействия ИИ на сферу занятости и общество, привлекая внимание политиков и даже религиозных лидеров. Папа римский Лев XIV, который в мае стал главой католической церкви, предупредил об угрозе, которую ИИ представляет для сохранения рабочих мест и человеческого достоинства.

Страхи по поводу ИИ преувеличены?

Эксперт по рынку труда Энцо Вебер (Enzo Weber) из Института исследований занятости (IAB) в Нюрнберге, считает, что опасения на сей счет неуместны. В интервью DW он заверил, что достижения в области ИИ открывают широкий спектр экономических возможностей и скорее в большей степени помогут работникам, чем вызовут массовую безработицу.

"ИИ в первую очередь меняет работу, но не уничтожает ее полностью", - подчеркнул Вебер, добавив, что в большинстве случаев эта технология помогает работникам "разрабатывать новые задачи и выполнять их лучше, а не просто заменяет их". Схожего мнения придерживаются и экономисты из Гарварда Дэвид Деминг, Кристофер Онг и Лоуренс Саммерс в опубликованной в январе работе. Они утверждают, что автоматизация отдельных производственных задач "не обязательно приведет к сокращению занятости" и даже может вызвать "увеличение рабочих мест в некоторых секторах" экономики. 

"В принципе, возможность автоматизировать ранее обременительную задачу может сделать работников настолько более продуктивными, что рост производительности труда компенсирует тот факт, что часть их обязанностей теперь выполняет машина", - указывается в публикации. Подчеркивая, что влияние ИИ, вероятно, будет "широкомасштабным и долгосрочным", ее авторы также пишут, что "история учит нас, что даже если технология ИИ разрушит рынок труда, ее влияние будет проявляться в течение многих десятилетий".

Адаптация к меняющемуся технологическому ландшафту

Учитывая, что технология искусственного интеллекта все еще находится на ранней стадии развития, ее точное долгосрочное влияние на мировые рынки труда остается неопределенным. Эффективность многих инструментов ИИ будет зависеть от того, насколько хорошо они будут интегрированы на рабочих местах, а также от желания и способности сотрудников использовать их. Если работники не будут в полной мере использовать ИИ из-за опасений за свое будущее, это может свести на нет повышение производительности труда, которое обещает новая технология.

Эксперт по рынку труда Энцо Вебер в связи с этим призывает компании и работников адаптироваться к меняющемуся технологическому ландшафту и использовать открывающиеся возможности, поскольку для него технология ИИ - это "переломный момент". "Она открывает возможности, но ими нужно воспользоваться. Необходимы дальнейшее развитие и активное обучение работников. Не только для того, чтобы идти в ногу со временем, но и чтобы максимально опередить его", - заключил Вебер.

Автор Шринивас Мазумдару

Источник - https://p.dw.com/p/4xDJ9