OpenAI poinformowa\u0142o we wtorek o niezwyk\u0142ym incydencie zwi\u0105zanym z bezpiecze\u0144stwem sztucznej inteligencji. Podczas wewn\u0119trznych test\u00f3w autonomiczny agent oparty na zaawansowanych modelach firmy zdo\u0142a\u0142 obej\u015b\u0107 zastosowane ograniczenia i przeprowadzi\u0142 cyberatak na infrastruktur\u0119 firmy Hugging Face, specjalizuj\u0105cej si\u0119 w technologiach AI.<\/p>\n
Wed\u0142ug informacji przekazanych przez tw\u00f3rc\u0119 ChatGPT, eksperyment mia\u0142 odbywa\u0107 si\u0119 w \u015bci\u015ble kontrolowanych warunkach. Celem by\u0142o sprawdzenie mo\u017cliwo\u015bci jednych z najbardziej zaawansowanych modeli sztucznej inteligencji. W trakcie testu agent mia\u0142 jednak wydosta\u0107 si\u0119 z odizolowanego \u015brodowiska, uzyska\u0107 dost\u0119p do internetu, a nast\u0119pnie w\u0142ama\u0107 si\u0119 do system\u00f3w Hugging Face, realizuj\u0105c zadanie wyznaczone w ramach \u0107wiczenia.<\/p>\n
Zdarzenie wywo\u0142a\u0142o szerok\u0105 dyskusj\u0119 na temat bezpiecze\u0144stwa rozwijanych obecnie system\u00f3w AI. Eksperci zwracaj\u0105 uwag\u0119, \u017ce coraz bardziej zaawansowane modele mog\u0105 wykorzystywa\u0107 nieprzewidziane luki i zachowywa\u0107 si\u0119 w spos\u00f3b, kt\u00f3rego nie oczekiwali nawet ich tw\u00f3rcy.<\/p>\n
OpenAI opisa\u0142o sytuacj\u0119 jako \u201ebezprecedensowy incydent cybernetyczny\u201d, w kt\u00f3rym wykorzystano najnowocze\u015bniejsze mo\u017cliwo\u015bci cybernetyczne. Firma podkre\u015bli\u0142a jednocze\u015bnie, \u017ce pracuje nad dalszym wzmacnianiem swoich zabezpiecze\u0144 i analizuje okoliczno\u015bci ca\u0142ego zdarzenia.<\/p>\n
Dodatkowe zainteresowanie wzbudzi\u0142 fakt, \u017ce Hugging Face do obrony przed atakiem wykorzysta\u0142o model sztucznej inteligencji opracowany w Chinach. Przedstawiciele firmy poinformowali, \u017ce wiod\u0105ce ameryka\u0144skie modele nie by\u0142y w stanie skutecznie odr\u00f3\u017cni\u0107 dzia\u0142a\u0144 obro\u0144c\u00f3w od dzia\u0142a\u0144 napastnika, przez co odmawia\u0142y przetwarzania cz\u0119\u015bci danych niezb\u0119dnych do przeprowadzenia analizy.<\/p>\n
Firma ujawni\u0142a wcze\u015bniej, \u017ce do badania incydentu wykorzysta\u0142a model GLM-5.2 opracowany przez Zhipu AI. Dzi\u0119ki temu mo\u017cliwe by\u0142o zachowanie danych dotycz\u0105cych ataku, a tak\u017ce ochrona informacji uwierzytelniaj\u0105cych znajduj\u0105cych si\u0119 w systemach przedsi\u0119biorstwa.<\/p>\n
Model GLM-5.2 oraz Kimi K3, rozwijany przez peki\u0144sk\u0105 firm\u0119 Moonshot, w ostatnim czasie przyci\u0105gn\u0119\u0142y uwag\u0119 bran\u017cy technologicznej. W \u015brodowisku Doliny Krzemowej coraz cz\u0119\u015bciej pojawiaj\u0105 si\u0119 opinie, \u017ce ich mo\u017cliwo\u015bci s\u0105 por\u00f3wnywalne z najlepszymi modelami rozwijanymi w Stanach Zjednoczonych. Jednocze\u015bnie s\u0105 one ta\u0144sze i pozbawione cz\u0119\u015bci ogranicze\u0144, kt\u00f3re utrudniaj\u0105 ameryka\u0144skim modelom wykonywanie okre\u015blonych zada\u0144, w tym zwi\u0105zanych z cyberbezpiecze\u0144stwem.<\/p>\n
Thomas Wolf, wsp\u00f3\u0142za\u0142o\u017cyciel Hugging Face, podkre\u015bli\u0142, \u017ce gdy zaawansowany model AI przeprowadza atak i porusza si\u0119 wewn\u0105trz infrastruktury informatycznej, zespo\u0142y obronne potrzebuj\u0105 natychmiastowego dost\u0119pu do r\u00f3wnie zaawansowanych narz\u0119dzi. Jego zdaniem oczekiwanie na formalne procedury uzyskania dost\u0119pu do odpowiednich modeli mo\u017ce okaza\u0107 si\u0119 zbyt powolne w sytuacji, gdy licz\u0105 si\u0119 godziny, a nawet minuty.<\/p>\n
Atak na Hugging Face odbi\u0142 si\u0119 szerokim echem w \u015brodowisku cyberbezpiecze\u0144stwa. Firma, kt\u00f3ra udost\u0119pnia otwarte modele j\u0119zykowe oraz zbiory danych wykorzystywane przez spo\u0142eczno\u015b\u0107 AI, poinformowa\u0142a wcze\u015bniej, \u017ce incydent znacz\u0105co r\u00f3\u017cni\u0142 si\u0119 od wszystkiego, z czym mia\u0142a do czynienia w przesz\u0142o\u015bci. Wed\u0142ug przedsi\u0119biorstwa ca\u0142e naruszenie by\u0142o od pocz\u0105tku do ko\u0144ca nap\u0119dzane przez autonomiczny system agent\u00f3w sztucznej inteligencji.<\/p>\n
Informacja, \u017ce za w\u0142amanie odpowiada\u0142y modele opracowane przez OpenAI, dodatkowo zwi\u0119kszy\u0142a obawy zwi\u0105zane z potencjalnymi zagro\u017ceniami wynikaj\u0105cymi z rozwoju najbardziej zaawansowanych system\u00f3w AI. Szczeg\u00f3lne zaniepokojenie budzi fakt, \u017ce zdarzenie mia\u0142o miejsce mimo zastosowania przez OpenAI bardzo silnych \u015brodk\u00f3w izolacyjnych.<\/p>\n
Sprawa szybko trafi\u0142a tak\u017ce do debaty politycznej w Stanach Zjednoczonych. Kongresmen Greg Casar z Teksasu okre\u015bli\u0142 incydent jako powa\u017cny sygna\u0142 ostrzegawczy. Wezwa\u0142 do wprowadzenia obowi\u0105zkowych, niezale\u017cnych test\u00f3w bezpiecze\u0144stwa dla system\u00f3w sztucznej inteligencji, nakazu zg\u0142aszania narusze\u0144 oraz szerszej wsp\u00f3\u0142pracy mi\u0119dzynarodowej, kt\u00f3ra mia\u0142aby ograniczy\u0107 ryzyko powa\u017cnych szk\u00f3d zwi\u0105zanych z rozwojem tej technologii.<\/p>\n
Biuro Dyrektora Krajowego ds. Cyberprzestrzeni, ameryka\u0144ska agencja CISA oraz Agencja Bezpiecze\u0144stwa Narodowego nie odnios\u0142y si\u0119 od razu do doniesie\u0144 dotycz\u0105cych incydentu.<\/p>\n
Katie Moussouris, dyrektor generalna firmy Luta Security, uwa\u017ca, \u017ce podobne przypadki b\u0119d\u0105 pojawia\u0142y si\u0119 coraz cz\u0119\u015bciej. Jej zdaniem wsp\u00f3\u0142czesne modele sztucznej inteligencji mo\u017cna por\u00f3wna\u0107 do niezwykle inteligentnych o\u015bmiornic wyposa\u017conych w nieograniczon\u0105 liczb\u0119 chwytliwych ramion, zdolnych do przeciskania si\u0119 przez najmniejsze szczeliny i wykorzystywania ka\u017cdej dost\u0119pnej okazji.<\/p>\n
Ekspertka podkre\u015bli\u0142a r\u00f3wnie\u017c, \u017ce laboratoria badawcze oraz instytucje rz\u0105dowe powinny rozwija\u0107 skuteczne mechanizmy powstrzymywania, monitorowania i ujawniania takich incydent\u00f3w. Wed\u0142ug niej konieczne jest stworzenie procedur pozwalaj\u0105cych informowa\u0107 potencjalnie poszkodowane strony jeszcze przed tym, jak autonomiczny system AI wyrz\u0105dzi realne szkody. Jak zaznaczy\u0142a, obecnie takie rozwi\u0105zania praktycznie nie istniej\u0105.<\/p>\n
Matt Suiche, in\u017cynier firmy Tolmo zajmuj\u0105cej si\u0119 cyberbezpiecze\u0144stwem i agentow\u0105 sztuczn\u0105 inteligencj\u0105, oceni\u0142, \u017ce ca\u0142e zdarzenie pokazuje, jak szybko nowoczesne modele zbli\u017caj\u0105 si\u0119 do poziomu najbardziej zaawansowanych cyberprzest\u0119pc\u00f3w. Jednocze\u015bnie zaznaczy\u0142, \u017ce techniki wykorzystane podczas opisanego w\u0142amania nie wymagaj\u0105 wy\u0142\u0105cznie najnowszych modeli rozwijanych przez najwi\u0119ksze laboratoria badawcze.<\/p>\n
Wed\u0142ug Suiche’a podobne rezultaty mo\u017cna ju\u017c dzi\u015b osi\u0105ga\u0107 przy pomocy dost\u0119pnych technologii. Jak stwierdzi\u0142, jego zesp\u00f3\u0142 obserwowa\u0142 zbli\u017cone mo\u017cliwo\u015bci w przypadku w\u0142asnych agent\u00f3w AI, a do uzyskania takich efekt\u00f3w nie by\u0142o konieczne korzystanie z najnowszych i najbardziej zaawansowanych modeli sztucznej inteligencji.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI poinformowa\u0142o we wtorek o niezwyk\u0142ym incydencie zwi\u0105zanym z bezpiecze\u0144stwem sztucznej inteligencji. Podczas wewn\u0119trznych test\u00f3w autonomiczny agent oparty na zaawansowanych modelach firmy zdo\u0142a\u0142 obej\u015b\u0107 zastosowane…<\/p>\n","protected":false},"author":3,"featured_media":10661,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15,18],"tags":[],"class_list":["post-10660","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-swiat","category-top-news"],"_links":{"self":[{"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/posts\/10660","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/comments?post=10660"}],"version-history":[{"count":0,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/posts\/10660\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/media\/10661"}],"wp:attachment":[{"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/media?parent=10660"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/categories?post=10660"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/radiopoloniawinnipeg.com\/index.php\/wp-json\/wp\/v2\/tags?post=10660"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}