ЦЕНТЪР ЗА СТРАТЕГИЧЕСКИ ИЗСЛЕДВАНИЯ В СИГУРНОСТТА И МЕЖДУНАРОДНИТЕ ОТНОШЕНИЯ
CENTER FOR STRATEGIC RESEARCH IN THE FIELD OF SECURITY AND INTERNATIONAL RELATIONS
СИГУРНОСТ
МЕЖДУНАРОДНИ ОТНОШЕНИЯ
Ще изпуснем ли автономните оръжия от човешки контрол?
Симеон Николов, 29.09.2026
Напоследък станаха известни някои случаи на грешки на Изкуствения интелект при използването му за военни цели. През септември 2026 г. CNN съобщи, че грешка в изкуствения интелект почти е щяла да предизвика война между САЩ и Китай миналата пролет. Аналитичен доклад генериран от Изкуствен интелект твърдял, че китайски кораб е превозвал компоненти за програма за ядрени оръжия.
Операцията е била предотвратена само защото служители са разгледали по-внимателно доклада малко преди стартиране на контрамерки. Войските вече се подготвяли за операцията, а самолетите вече били във въздуха. Оказало се обаче, че чатбот с изкуствен интелект е класифицирал погрешно товара на кораба. Анализатор от командване на специалните операции на САЩ е предоставил данните от изкуствения интелект, които разузнавателните агенции са събрали относно товарния документ на кораба. След това системата е съпоставила публично информация с класифицирани сигнални разузнавателни данни от правителствени източници и е стигнала до погрешното заключение, че товарът е ядрен. Анализаторът е използвал отново изкуствения интелект, за да форматира резултатите в стандартен доклад на военното разузнаване. Готовият документ е бил неразличим от стандартните анализи и е бил разпространен по съответните военни командни канали за връзка.
Преди това съобщение всеизвестен стана случая с поразяването на общежитието в девическото училище в иранския град Минаб, което доведе до смъртта на 123 деца. Вероятно причината е грешка в изкуствения интелект: военният персонал се е доверил на система с изкуствен интелект Palantir, която не е разпознала, че използваните снимки са остарели.
През януари военният министър Пийт Хегсет публикува „Стратегията за ускоряване на изкуствения интелект“ с обявената цел да направи моделите с ИИ достъпни за приблизително три милиона цивилни и военни служители. Централната платформа за тази инициатива се нарича GenAI.mil. Тя стартира през декември 2025 г.
CNN съобщава, че AI моделите се въвеждат по децентрализиран и едва координиран начин. Съответно различните органи и институции използват различни AI инструменти, няма единни тестови протоколи за машинно генерирана информация, няма реални насоки за това как участието на човека трябва да предотврати възникването на цивилни жертви или приятелски огън.
Въпреки тези и други рискови ситуации, по време на преговори в ООН, САЩ и Русия са премахнали предпазни механизми, отнасящи се до автономните оръжия. В последния ден от преговорите делегациите им са провели продължително заседание от 15 часа без прекъсване и са смекчили съдържанието на ключовия документ, който установява рамкови правила за смъртоносните автономни оръжия – системи, способни да избират и поразяват цели без човешка намеса. Според разследването на Washington Post в крайна сметка са били пропуснати няколко защитни клаузи. Сред премахнатите разпоредби е изискването военните цели, генерирани от ИИ, да бъдат проверявани от хора преди извършването на атака. Отпаднал е и текстът, задължаващ да се вземат предвид етичните съображения при използването на такива оръжия. В окончателния доклад на групата се препоръчва разработените елементи да бъдат обсъдени и одобрени на конференцията за преглед, насрочена за 16–20 ноември. Обяснението, защо САЩ и Русия оставят открити някои въпроси, вероятно е в познатата постоянна технологична надпревара между тях и отсъствието на доверие. Така те обаче поемат рисковете от изненадващ погрешен удар вследствие погрешни данни от ИИ или от използването му за създаване на опасни химически или биологични оръжия. Здравият разум изисква да се договорят ясни правила за контрол на автономните оръжия и да се постигне един правно обвързващ международен договор за тях.
CSR в ТВ – и радио –предавания
ПРЕПОРЪЧВАМЕ
Десетилетието. В сянката на лидери, избори и войни
Gudrun Krämer: Demokratie im Islam
GCHQ. The uncensored story of Britain's Most Secret Intelligence Agency
Новое дворянство: Очерки истории ФСБ
Hein G. Kiessling, ISI und R&AW
Alexander Rahr, „Der kalte Freund – warum wir Russland brauchen: Die Insider-Analyse“
"Развилки новейшей истории России". Егор Гайдар, Анатолий Чубайс
Tom Koenigs, Machen wir Frieden oder haben wir Krieg?
"Was Muslime wirklich denken. Der Alltag, die Extremisten, die Wahrheit dazwischen"
"Weniger Demokratie wagen" , Laszlo Trankovits , Verlag der Frankfurter Allgemeinen Zeitung
Kissinger H. On China. The Penguin Press, 2011. - 586 p.
Helmut Schmidt: Religion in der Verantwortung.
БЮЛЕТИНИ 2018/19/20/21/22/23/24
2009 Всички права запазени. Последна актуализация