Osoby, które w ostatnich tygodniach planowały rozbudowę komputera o dodatkową pamięć RAM lub szybszy dysk SSD, mogły przeżyć niemałe zaskoczenie. Ceny komponentów pamięci RAM i dysków wyraźnie poszły w górę, a wszystko wskazuje na to, że nie jest to chwilowa korekta, lecz efekt głębszych zmi...
W dobie szybko rozwijających się technologii Smart Home coraz więcej użytkowników poszukuje rozwiązań, które pozwolą na wygodne i centralne zarządzanie inteligentnymi urządzeniami w domu. Połączenie bramki FRITZ!Smart Gateway z głośnikami Amazon Echo i asystentem Alexa to prosty sposób na wprowadze...
Rozwój modeli AI zwiększa ich zdolność do rozwiązywania złożonych problemów i lepszego rozumienia kontekstu, ale może jednocześnie wpływać na zmianę profilu ryzyka związanego z ich wykorzystaniem - wynika z kwietniowej analizy F5 Labs. Dane sugerują, że modele wyposażone w mechanizmy wieloetapowego wniosk...
Microsoft Azure to potężna platforma do budowania i uruchamiania aplikacji cloud-native. Jednak, jak potwierdzi każdy doświadczony architekt chmurowy lub inżynier SRE - monitorowanie środowiska Azure może przypominać próbę okiełznania chaosu. Setki metryk, logów i alertów napływających z maszyn wir...
Zdaniem 45% respondentów przeprowadzonego przez IDC badania to nie ataki ransomware, lecz zachowanie kontroli nad infrastrukturą (w tym szyfrowaniem i utrzymaniem suwerenności danych) mogą w 2026 roku stać się największym wyzwaniem dla zapewnienia bezpieczeństwa i prywatności informacji. Potwierdzają to wyniki a...
Jak wynika z opublikowanego przez Fortinet dokumentu „2023 Cloud Security Report”, w chmurze publicznej znajduje się już ponad połowa danych prawie 40% ankietowanych przedsiębiorstw. W ciągu najbliższych 12-18 miesięcy odsetek tych firm zwiększy się do 58%, co spowoduje, że wyzwań związanych z zabezpieczani...
OpenAI ponownie wstrzymuje część prac nad najbardziej zaawansowanymi modelami AI. Powodem jest incydent, podczas którego model znalazł sposób na wykorzystanie DNS do komunikacji z zewnętrzną usługą, mimo izolacji środowiska treningowego. Firma przyznaje, że system monitorowania wykrył nietypowe zachowanie, ale nie nastąpiło automatyczne zatrzymanie procesu.
OpenAI poinformowało o kolejnym problemie wykrytym podczas wewnętrznych testów modeli. Do zdarzenia doszło 20 września 2026 roku podczas treningu z wykorzystaniem uczenia ze wzmocnieniem (RL).
Wewnętrzny model badawczy otrzymał zadanie wymagające wyszukiwania informacji. Najpierw próbował korzystać z udostępnionego narzędzia wyszukiwania, a następnie bezpośrednio komunikować się z wyszukiwarkami. Te próby były blokowane przez infrastrukturę OpenAI. Model zaczął sprawdzać, jakie możliwości komunikacji sieciowej z jego środowiska pozostają dostępne. Mimo blokady bezpośredniego dostępu do Internetu działał tam resolver DNS, który odpowiadał na zapytania dotyczące części domen. To wystarczyło, aby model znalazł sposób na wykorzystanie DNS jako kanału komunikacji. W praktyce model wykorzystał zapytania DNS do wymiany informacji z zewnętrznym chatbotem. Dane były umieszczane w zapytaniach, a odpowiedzi wracały tą samą drogą.
Nie oznaczało to oczywiście uzyskania pełnego dostępu do Internetu. Model znalazł po prostu dodatkową ścieżkę komunikacji, której zabezpieczenia środowiska treningowego nie blokowały.
OpenAI podaje, że system monitorowania zachowania modeli wykrył incydent około 15 minut po pierwszej udanej komunikacji przez DNS. Trzy minuty później alert został potwierdzony przez człowieka. Mimo zaistaniałej sytuacji działanie modelu nie zostało automatycznie zatrzymane. Ostatecznie zostało zakończone ręcznie około 2,5 godziny po wykryciu problemu.
OpenAI przyznaje, że jej system zakładał możliwość wykrywania prób nieprawidłowego zachowania i odpowiedniej reakcji, ale w tym przypadku część zabezpieczeń nie zadziałała zgodnie z oczekiwaniami. Analiza wykazała również wcześniejsze przypadki dostępu z wykorzystaniem DNS, które nie zostały odpowiednio wychwycone przez monitoring.
Po analizie incydentu OpenAI wstrzymało trening, ewaluację oraz inferencję z wykorzystaniem narzędzi w przypadku najbardziej zaawansowanych modeli. Zanim prace zostaną wznowione, OpenAI chce potwierdzić skuteczność nowych zabezpieczeń i sprawdzić, czy podobnego mechanizmu nie można wykorzystać w inny sposób.
OpenAI poinformowało, że zastosowało już dwie niezależne warstwy blokujące, z których każda powinna uniemożliwić opisany sposób komunikacji. Ograniczono również zapytania DNS w środowisku do określonej listy dozwolonych domen i typów rekordów. OpenAI zapowiada też kolejne testy red-teamowe, w których modele będą próbowały znaleźć następne sposoby obejścia zabezpieczeń.
Podobny problem pojawił się już wcześniej. W lipcu modele OpenAI podczas wewnętrznych testów cyberbezpieczeństwa ominęły zabezpieczenia izolujące je od Internetu, a następnie uzyskały dostęp do infrastruktury Hugging Face. OpenAI opisało ten przypadek w sierpniu i poinformowało wówczas o wstrzymaniu części treningów oraz wprowadzeniu dodatkowych mechanizmów monitorowania, bezpieczeństwa i kontroli zachowania modeli.
W sierpniu OpenAI informowało również, że niewydany model Astra osiągnął w ramach Preparedness Framework poziom Critical w zakresie możliwości cyberbezpieczeństwa. Według firmy model, po wyposażeniu w odpowiednie narzędzia i dostęp, może samodzielnie szukać wcześniej nieznanych podatności i opracowywać sposoby ich wykorzystania.
Incydent pokazuje, że samo odcięcie modelu od Internetu nie musi wystarczyć. Jeżeli w środowisku pozostanie dostępny inny kanał komunikacji, model może próbować go wykorzystać. Nie doszło przy tym do przejęcia infrastruktury klienta ani niekontrolowanego ataku na zewnętrzny system. Problem polegał na czym innym: model znalazł sposób na przesłanie danych do zewnętrznej usługi z izolowanego środowiska treningowego.
OpenAI nie wznowi treningu tego konkretnego modelu, który brał udział w incydencie. Pozostałe prace nad najbardziej zaawansowanymi modelami mają zostać wznowione dopiero po zakończeniu dodatkowych testów i potwierdzeniu skuteczności nowych zabezpieczeń.
Źródło: OpenAI, Wired, opracowanie własne
