Развитието на изкуствения интелект не може да бъде спряно. Това обаче не означава, че не може да бъде пренастроено към приоритетите, ориентирани към човека.
Бележка на редактора: Поредицата „Червените клетки" е публикувана в сътрудничество със Стимсън Център. Опирайки се на наследството на „Червените клетки" на ЦРУ - създадени след атаките от 11 септември, за да се избегнат подобни аналитични провали в бъдеще - проектът работи за оспорване на предположения, погрешни схващания и групово мислене с цел насърчаване на алтернативни подходи към предизвикателствата пред външната и националната политика за сигурност на Америка.
Червени кръвни клетки
Вярата в неизбежността на изкуствения интелект (ИИ), обещанието за безгранични ползи и страхът от загуба от Китай или помежду си тласкат американската индустрия за изкуствен интелект към яростна надпревара за господство в областта на ИИ. Тази надпревара се ускорява, без да се отчитат достатъчно рисковете, за много от които дори създателите на ИИ и корпоративните лидери са предупреждавали. Опасенията относно безопасността, човешкото въздействие и невъзможността за предотвратяване на катастрофални последици са омаловажавани в преследването на скорост и превъзходство. Предизвикателството не е да се спре влакът или дори да се забави - по-скоро е да се промени посоката, за да се гарантира, че иновациите остават в съответствие с човешките цели.
Техноутопия: „Повече от всичко, завинаги"
„Изграждаме мозък за света", обяснява главният изпълнителен директор на OpenAI Сам Алтман в публикация в блога си за изкуствения суперинтелект, дефиниран като ИИ, който надвишава човешкия интелект. Роботите един ден биха могли да управляват цели вериги за доставки, като добиват суровини, шофират камиони и работят във фабрики. Още по-забележително е, че някои роботи могат да произвеждат допълнителни роботи за изграждане на заводи за производство на чипове, центрове за данни и друга инфраструктура. Машините не само ще захранват бъдещето; те ще го изграждат - за неопределено време.
Технологичните лидери и рисковите капиталисти, като Илон Мъск, Марк Зукърбърг и Марк Андреесен, предвиждат технологично обусловено бъдеще, в което изкуственият интелект ще премахне болестите, ще обърне екологичния колапс, ще открие неограничена енергия и ще въведе ера на изобилие. Какво да не харесваш? Технологичните лидери обаче също така предвиждат, че изкуственият интелект ще трансформира обществото толкова напълно, че хората ще се оттеглят във виртуалната метавселена , ще формират приятелства с изкуствен интелект , ще извършват транзакции с криптовалути и ще разчитат на универсален базов доход (УБД), финансиран отчасти от технологични компании.
Някои виждат как се оформя крайна, по-мрачна визия, в която националните държави постепенно се разтварят в мрежови държави , управлявани от технократски елити - модерна версия на философските царе на Сократ . Реалистична или не, тази визия е изцяло трансформираща в своята амбиция. И все пак, тя не адресира адекватно негативните последици. Тя прилича на дистопията на Олдъс Хъксли в „ Прекрасният нов свят" , с основното си убеждение, че технологиите, особено изкуственият интелект, ще осигурят, както го е казал Адам Бекер, „ повече от всичко, завинаги ".
Преродената технокрация
Такъв свят напомня за движението „Технокрация" от 30-те години на миналия век . Водена от дядото на Илон Мъск, Джошуа Н. Халдеман, школата на мисълта се застъпваше за управлението на инженерите и учените. Не е изненадващо, че тя не успя да набере популярност. В публикацията в блога на Марк Андреесен от 2023 г., озаглавена „ Манифест на технооптимиста ", рисковият капиталист твърди, че всички проблеми, природни и технологични, могат да бъдат решени с повече технологии. Този начин на мислене предизвика ожесточена негативна реакция през 2018 г. , предизвикана от неконтролираната власт на технологичните компании върху потребителските данни и съдържанието на техните платформи, разбивайки доверието на потребителите и илюзията, че повече технологии неизбежно водят до прогрес.
Андреесен определя „врага" на прогреса като етатизъм, колективизъм, централно планиране и монополи. Това също е познато: свободният пазарен капитализъм с минимална регулация е същата среда, която е насърчила ранния растеж на интернет. Манифестът на Андреесен третира обществото като счупено приложение: дефектно, но поправимо, стига разработчиците да продължават да обновяват технологичния пакет . По подобен начин враговете, които той идентифицира, всъщност са сложни резултати от човешката история, борби за власт и сблъскващи се идеологии. Освен това, те не са неизправности, които да бъдат преодолени със софтуерен кръпка. Те са част от човешкото състояние.
Мястото, където хората се вписват в картината, когато машините вършат цялата тежка работа, очевидно липсва. Според тази визия, машините мислят, строят и вземат решения вместо хората - не заедно с тях. Това е бъдеще на инженерен консенсус, където политиката и съгласието на управляваните изчезват редом с човешката дейност. Нищо чудно, че някои в индустрията, като главния изпълнителен директор на Google Сундар Пичай, подкрепят интегрирането на социални учени, философи и етици в разговора - не на последно място, за да напомнят на специалистите по данни и рисковите капиталисти от Силициевата долина, че човешката дейност трябва да остане непокътната. Това е частта от софтуера, която трябва да бъде поправена.
Социална дислокация и възходът на техно-държавата
Би било грешка обаче да се гледа на техноутопистите просто като на хора, търсещи печалба, или идеолози. Те имат основателна причина да вярват, че изкуственият интелект може да реши преди това трудни за разрешаване проблеми. AlphaFold на DeepMind вече революционизира биологията , като спечели на създателите си Нобелова награда за 2024 г. за точно предсказване на протеиновите структури - напредък, който ускорява откриването на лекарства. Предупрежденията за земетресения на Google подобряват обществената безопасност, а охлаждането, задвижвано от изкуствен интелект, може да намали търговското потребление на енергия с 9-13 процента . Изкуственият интелект недвусмислено има огромен потенциал да подобри човешкия живот.
Въпреки това, изкуственият интелект обещава да трансформира цивилизацията с безпрецедентна скорост и със значителни смущения. В исторически план, дори в общества с изобилие от свободно време, хората са имали целенасочена работа. Но разговорите за универсален базов доход предполагат друго. Когато индустриалната революция измести прединдустриалния и селския физически труд, бяха създадени нови работни места и промяната се разгърна в продължение на няколко века , давайки на обществата време да се адаптират. Революцията на изкуствения интелект, за разлика от нея, заплашва бързо да замени работниците, работещи със знания , без да предлага незабавни заместващи работни места. Половината от началните работни места „бели якички" може да изчезнат в рамките на пет години .
Днешните завършили бизнес училища не могат да станат банкери на утрешния ден, ако пътят от чиракуването до заетостта се срине без нещо, което да го замести. Изпразването на професионалната класа унищожава възходящата мобилност, като замества по-високоплатените работни места със средни доходи с по-малко и по-нископлатени роли, които просто поддържат автоматизирани системи. Освен това, когато изкуственият интелект автоматизира работни места, които разчитат на разсъждение, преценка, отчетност, етика и морал - всички човешки способности, които му липсват - производителността и безопасността биха могли да пострадат.
Непрестанният стремеж към скорост засенчва основната задача за подготовка за промяна. Изкуственият интелект вече преобразява обществото, трансформирайки начина, по който американците общуват, работят, водят война и участват в политиката. Той се превърна във водеща роля в националната секюритизация на икономическия процес на вземане на решения и геостратегическата конкуренция. Трансформацията на обществото се ускорява, тъй като технологията привлича потребителите и се разпространява толкова бързо, че те трябва да се адаптират.
Бързото внедряване на ИИ от Китай в приложения за наблюдение, управление и военни цели често се използва като оправдание за по-нататъшно ускорение. Ако обаче Америка е водеща в разработването на авангардни модели на ИИ, докато Китай внедрява по-малко напреднали, предизвикателството не е просто да се внедрява по-бързо. То е да се води чрез различно внедряване, а именно като се дава приоритет на безопасността, прозрачността и готовността за смущения, като по този начин се обвързва американското внедряване на ИИ с човекоцентрични принципи, а не с геополитическа неотложност.
В скорошно есе в сп. „Външни работи " американският политолог Иън Бремер описва този нов свят като „технополярен", където технологичната индустрия е вездесъщ, недържавен фактор, който оформя геополитиката и обществения живот. Без съмнение големите американски технологични компании или „големите технологични" фирми поемат роли, които исторически са били прерогатива на националните държави и в някои отношения са се преплели с държавата. Макар че не е ясно дали те представляват глобален „полюс" като Китай, Русия или Европейския съюз (ЕС), големите технологични компании със сигурност представляват нова - до голяма степен безотчетна - форма на власт.
Големите технологични канали на Британската Източноиндийска компания
По-добра аналогия за тежестта на големите технологични компании е Британската Източноиндийска компания , която от 1600 г. до началото на 1800 г. е действала като суверенна единица с огромна автономия, подкрепена от британската корона. Източноиндийската компания е изковала голяма част от Британската империя, придобивайки територия със собствена армия и управлявайки я със собствена администрация, като същевременно е давала на британското правителство дял от печалбите.
На националната държава ѝ бяха необходими около два века, за да се утвърди отново и да разпусне компанията. По подобен начин днешните технологични гиганти са натрупали огромна власт, влияейки върху поведението на държавите чрез контрола си върху цифровата инфраструктура и платформи, които са станали неразделна част от съвременното общество. Могат ли националните държави да утвърдят отново достатъчен контрол?
Вероятно, но не скоро. Големите технологични компании оформят политиката на правителството на САЩ (както е показано в наскоро публикувания План за действие на администрацията за изкуствен интелект ), отчасти защото Конгресът едва наскоро започна да действа , а отчасти поради бързия темп на промяната.
Освен това, откакто Китай дебютира с модела си DeepSeek AI , геополитиката насърчи симбиозата между правителството и индустрията. За разлика от Китай, където технологичните компании са твърдо под контрола на партията-държава, в Съединените щати големите технологични компании влияят върху подхода на правителството. Политическото влияние на индустрията във Вашингтон се разшири , въпреки че общественият контрол се засили: американските технологични гиганти похарчиха 61 милиарда долара за лобиране през 2024 г. Само Мъск дариха 288 милиона долара за кампания миналата година.
Тъй като пълното социално, икономическо и геостратегическо въздействие на изкуствения интелект започва да се усеща от хората, създателите на ИИ все повече признават, че не разбират напълно как функционират тези системи. Много системи се представят добре в среди с ниски залози и толерантност към грешки. Инженерният контрол обаче става неотложен в области с голямо въздействие, като финанси, право, здравеопазване и отбрана, където неуспехите имат тежки последици. Халюцинациите - фалшиви или изфабрикувани отговори - са често срещани при сложни задачи за разсъждение, срещащи се в близо 80% от оценките.
Ако инженерите, които проектират тези системи, не могат задоволително да обяснят как работят, може ли изкуственият интелект наистина да бъде контролиран? Съоснователят на DeepMind Мустафа Сюлейман не е сигурен. Други казват, че идентифицирането на режимите на повреда е трудно , което прави „аварийния прекъсвач" (за изключване на изкуствения интелект, ако той се повреди) нереалистичен. Йошуа Бенхио, пионер в областта, призова за инвестиции в усъвършенстван мониторинг за контрол на агентния изкуствен интелект , който може да действа автономно, преди „да създадем неща, които могат да ни унищожат".
Не всички са съгласни. Главният учен по изкуствен интелект на Meta, Ян ЛеКун, друг глас от основите, отхвърля „думеризма" на изкуствения интелект. Той твърди, че настоящите модели са далеч от постигане на автономност или общ интелект, а безопасният и контролируем изкуствен интелект е фундаментално инженерен проблем. И все пак предложеното от него решение - иновации с отворен код за подобряване на тестването и отстраняването на грешки - би дало на Китай достъп до него. Засега собствените модели все още доминират в екосистемата на САЩ, въпреки че интересът към моделите с отворен код нараства .
Без предпазни мерки, фрагментирано управление
Дори когато рисковете станаха по-видими, а опасенията по-широко разпространени, регулациите не успяха да се справят с темпото. Международните усилия, като например Декларацията от Блечли, домакинствана от Обединеното кралство (UK) през 2023 г., дадоха надежда за координирано управление между основните сили в областта на изкуствения интелект. Съединените щати, Китай и ЕС се ангажираха с безопасно, ориентирано към човека развитие. Но на Световната среща на върха за изкуствения интелект в Париж през 2025 г. както Съединените щати, така и Обединеното кралство отказаха да подпишат последваща декларация относно етиката и безопасността. Всъщност вицепрезидентът Джей Д. Ванс публично се противопостави на „ прекомерните " регулации, ориентирани към безопасността.
Реалността обаче е, че науката за оценка на производителността и безопасността е неадекватна . Това е особено тревожно, тъй като изкуственият интелект се развива от инструмент, който разширява човешките възможности - като например генеративния изкуствен интелект (например ChatGPT) - до „агентен" и действащ автономно без човешки надзор (например превозни средства без шофьор). Въпреки свързаното с това експоненциално увеличение на риска, само 2% от световните изследвания в областта на изкуствения интелект изучават съображенията за безопасност и само 0,3% от общото финансиране за изкуствен интелект се изразходва за изследвания за човешко привеждане в съответствие.
Много водещи изследователи в областта на безопасността напуснаха големите технологични фирми в отчаяние. Междувременно не съществуват обвързващи глобални стандарти и приложими механизми за надзор върху агентния ИИ. Освен това няма технически протоколи за справяне с несъответствията (когато ИИ не преследва целите, които неговите създатели искат), нито надеждни механизми за безопасна намеса (напр. авариен прекъсвач).
Въпреки че темпът на развитие на изкуствения интелект предполага необходимостта от гъвкави регулации, Съединените щати изглеждат изключение в това отношение. Както Китай, така и ЕС, въпреки различните си системи за управление , са по-фокусирани върху безопасността. В този фрагментиран регулаторен пейзаж глобалната координация става едновременно по-трудна и по-неотложна.
Пренебрегване на предупрежденията за изкуствен интелект
Сега е моментът да се отдръпнем и да преразгледаме въпросите от първи ред: Къде води изкуственият интелект човечеството? Ще замести ли хората? Дори техноутописти като Сам Алтман и Илон Мъск изразиха тревога. Мъск изчислява, че има 20 процента вероятност изкуственият интелект да унищожи човечеството; Алтман вярва, че той би могъл да надделее напълно над хората.
През март 2023 г. Мъск, заедно с технологичния предприемач Стив Возняк и десетки учени в областта на изкуствения интелект, подписаха отворено писмо, призоваващо за пауза в обучението на по-модерни системи с изкуствен интелект, като директно питаха: „Трябва ли да разработваме нечовешки умове, които в крайна сметка биха могли да ни надминат числено, да ни надхитрят, да остареят и да ни заменят?" Алтман не подписа писмото, но то цитира изявлението на OpenAI , че проектите с усъвършенстван изкуствен интелект трябва да ограничат скоростта, с която се увеличават изчислителните ресурси за обучение на модели.
Въпреки това, развитието на изкуствения интелект се развива с шеметна скорост. Разработчиците са въвлечени в главозамайваща надпревара за овладяване на бъдещето, разпалени от вярата в неизбежността на ИИ и страха от пропускане на финансов и геополитически процъфтяващ успех. Ирационалният ентусиазъм е надделял над пазарната дисциплина. Въпреки забавената възвръщаемост и нерешените рискове, капиталът се налива в разработването на ИИ с почти религиозен плам: 471 милиарда долара са влезли в американски предприятия за ИИ между 2013 и 2024 г., като само за 2025 г. се очакват още 300 милиарда долара .
И все пак рисковете не са хипотетични, предупрежденията са ясни и често се издават от самите изграждащи системите. Липсва отчетност, жертвана е пред олтара на ускорението, оставяйки малко място за надзор или корекция. Без общи глобални правила за защита на иновациите, ориентирани към човека, управлението на ИИ рискува да бъде оформено единствено от властта и печалбата. Интегрирането на етиката и далновидността в технологичното развитие ще става все по-предизвикателно, колкото по-дълго продължава тази динамика, с вероятни дълбоки последици за човечеството.
Бъдещето, без надзор
Рядко се е случвало технология с такава трансформираща сила - и толкова видими, добре разбрани рискове и смущения - да бъде разгърната с толкова малко подготовка. Както наскоро предупреди главният изпълнителен директор на Anthropic, Дарио Амодей : „Не можете просто да застанете пред влака и да го спрете." Но можете - и трябва - да „го насочите на 10 градуса в различна посока от тази, в която е отишъл." Това е централното предизвикателство за Съединените щати в надпреварата за изкуствен интелект.
За авторите: Робърт Манинг и Фериал Ара Саид
Робърт А. Манинг е изтъкнат сътрудник в Центъра „Стимсън", работещ върху стратегически прогнози, Китай и конкуренцията между великите сили.
Фериал Ара Саид е външен сътрудник в Центъра „Стимсън" и бивш висш американски дипломат. Тя е основател на консултантската фирма Telegraph Strategies LLC.
