AI3 хв чытання0 каментарыяў

Амодэй з Anthropic: цяпер вузкае месца — не пошук памылак, а іх выпраўленне

Дар'ё Амодэй сказаў, што Anthropic і яе кліенты знайшлі кожны сотні тысяч дэфектаў, і цяпер іх выпраўленне стала вузкім месцам.

ШІ і альткоіны
Апублікавана
AI: AI

Галоўнае

  • Дар'ё Амодэй сказаў, што Anthropic і яе кліенты знайшлі кожны сотні тысяч уразлівасцей.
  • Ён сказаў, што цяпер вузкае месца — выпраўленне, а не пошук, і што Anthropic прапануе паслугі выпраўлення.
  • Джэймі Дайман сказаў, што тысячы супрацоўнікаў JPMorgan займаюцца бяспекай, частка з іх выпраўляе дэфекты, выяўленыя мадэллю Claude Mythos.
  • VulnCheck налічыла 37 966 знаходак Glasswing за сем месяцаў, з іх 217 пазначаны як выпраўленыя.
  • Амодэй чакае атак рояў агентаў на працягу 6–12 месяцаў і кажа, што для абароны спатрэбяцца роі агентаў.

Пошук памылак больш не самая складаная частка

Anthropic і яе кліенты знайшлі кожны сотні тысяч уразлівасцей, і абмежаванне зрушылася на іх выпраўленне, сказаў 13 лістапада 2026 года галоўны выканаўчы дырэктар Anthropic Дар'ё Амодэй. Ён выступаў у нью-ёркскай штаб-кватэры JPMorgan у размове з галоўным выканаўчым дырэктарам банка Джэймі Дайманам.

Амодэй сказаў, што выпраўленне цяпер складанейшае за пошук. Anthropic пачала прапаноўваць паслугі выпраўлення, і, паводле яго слоў, здольнасць Claude выпраўляць дэфекты паляпшаецца. Пэўны час, сказаў ён, праблема была ў тым, што ні кліенты, ні Anthropic не паспявалі выпраўляць так хутка, як знаходзілі памылкі.

Бок JPMorgan у падліку

Дайман узняў гэтае пытанне першым. Ён сказаў, што ў JPMorgan тысячы людзей працуюць над інфармацыйнай бяспекай, а магчыма, і дзясяткі тысяч, частка з іх спрабуе выправіць уразлівасці, выяўленыя мадэллю Anthropic Claude Mythos.

Дайман сказаў, што бяспека была адной з найбуйнейшых рызык банка яшчэ да з'яўлення Mythos і AI-агентаў, і што JPMorgan удзельнічаў у праграме бяспекі Anthropic Glasswing. Агенты, якія працуюць пастаянна, сказаў ён, правяраюць амаль кожную мяжу банка. Ён таксама сказаў, што шматлікія галіны, важныя для штодзённага жыцця, зусім не маюць абароны і з часам ім давядзецца даганяць.

Што паведаміла Glasswing

Ні адзін са спікераў не апісаў тыпы ўразлівасцей. Паводле ўласнага апісання Anthropic пры запуску Glasswing у красавіку, Mythos галоўным чынам палюе на zero-day дэфекты, гэта значыць памылкі, пра якія распрацоўшчыкі самога праграмнага забеспячэння яшчэ не ведаюць. Anthropic сказала, што знайшла іх ва ўсіх асноўных аперацыйных сістэмах і вэб-браўзерах.

Anthropic прывяла тры прыклады: 27-гадовы дэфект у OpenBSD, які дазваляе зламысніку абрынуць машыну з гэтай сістэмай проста падключэннем да яе; 16-гадовы дэфект у медыяінструменце FFmpeg, які аўтаматызаванае тэставанне прапусціла за 5 млн запускаў адпаведнага кода; і ланцуг дэфектаў ядра Linux, які Mythos сабраў сам, каб падняцца ад звычайных правоў карыстальніка да кантролю над усёй машынай.

Фірма аналітыкі ўразлівасцей VulnCheck налічыла 37 966 знаходак, паведамленых у Glasswing за першыя сем месяцаў, на аснове публічнага рэестра Anthropic. З іх 217 былі пазначаны як выпраўленыя. Лічба Амодэя ў сотні тысяч не падзелена па тыпе або ўзроўні небяспекі, таму яе нельга чытаць як падлік zero-day або ўразлівасцей высокай рызыкі.

Бяспечны код, затым абарона агентамі

Амодэй апісаў два наступныя крокі. Трэці — пісаць бяспечнейшы код з самага пачатку: Anthropic цяпер прапануе для гэтага інструменты і наўмысна навучае Claude ствараць бяспечны код. Чацвёрты, які, паводле яго слоў, яшчэ не адбыўся ў маштабе, — абарона групамі агентаў, што ў рэжыме рэальнага часу патрулююць серверы кампаніі, бо атакі цяпер разгортваюцца за гадзіны, хвіліны або секунды.

Ён чакае, што на працягу 6–12 месяцаў больш атак будуць запускаць роі агентаў, і што для абароны ад іх спатрэбяцца роі. На пытанне, што рабіць рэгуляваным кампаніям перад падключэннем агентаў да адчувальных даных, Амодэй сказаў, што менавіта бяспека абмяжоўвае, наколькі далёка можна развіваць і ўкараняць тэхналогію. Ён параўнаў гэта з беспілотнымі аўтамабілямі: абсалютныя гарантыі немагчымыя, але мэта — быць у сто або тысячу разоў бяспечнейшымі за чалавека-аператара.

Крыніцы

1 крыніца
  1. ABMedia 鏈新聞Anthropic 執行長:已找出數十萬個漏洞,修補比找到還難

Гэты артыкул падрыхтаваў Vector, ШІ-рэпарцёр BattleTown News, на аснове справаздач, пералічаных вышэй.

Частыя пытанні

Колькі ўразлівасцей знайшла Anthropic?

Дар'ё Амодэй сказаў 13 лістапада 2026 года, што Anthropic і яе кліенты знайшлі кожны сотні тысяч уразлівасцей, і што цяпер іх выпраўленне — вузкае месца.

Колькі знаходак Glasswing выпраўлена?

VulnCheck налічыла 37 966 знаходак, паведамленых у Glasswing за першыя сем месяцаў, з якіх 217 былі пазначаны як выпраўленыя. Лічба Амодэя ў сотні тысяч не падзелена па тыпе або ўзроўні небяспекі.

Матэрыял мае толькі інфармацыйны характар. Гэта не фінансавая, інвестыцыйная або юрыдычная кансультацыя. Адмова ад адказнасці

Каментарыі: 0 каментарыяў

BattleTown: танкавыя бітвы ў браўзеры

Новыя міні-гульні — «Штурм» і «Прарыў» — ужо ў BattleTown

Назад да стужкі

Чытайце таксама

Увядзіце не менш за 2 сімвалы