Firmy Google, Microsoft i xAI zgodziły się zapewnić rządowi USA wczesny dostęp do swoich modeli sztucznej inteligencji w celu oceny ich możliwości i zwiększenia bezpieczeństwa przed publicznym udostępnieniem.
Umowy te rozszerzają inicjatywę, do której już dołączyły firmy OpenAI i Anthropic, wcześniej zezwalając na wstępne weryfikacje swoich rozwiązań. Kontrole są przeprowadzane przez Centrum Standardów i Innowacji w Dziedzinie AI (Center for AI Standards and Innovation, CASI) amerykańskiego Departamentu Handlu, o czym agencja poinformowała we wtorek.
Firmy OpenAI i Anthropic renegocjowały swoje dotychczasowe umowy partnerskie z centrum, aby lepiej dostosować je do priorytetów Planu Działań w zakresie AI prezydenta Donalda Trumpa. Od 2024 roku CASI oceniło już ponad 40 modeli AI, w tym te najbardziej zaawansowane, które nie zostały jeszcze publicznie udostępnione, zgodnie z oświadczeniem.
Rozszerzenie mandatu CASI
Nowe umowy są ogłaszane w obliczu obaw amerykańskich urzędników dotyczących systemu Mythos firmy Anthropic, co sygnalizuje rozszerzenie mandatu dla stosunkowo nowego centrum. Centrum, założone w 2023 roku jako Instytut Bezpieczeństwa AI (AI Safety Institute) za prezydentury Joego Bidena i przemianowane przez administrację Trumpa w zeszłym roku, określa siebie jako „główny punkt kontaktowy branży w rządzie USA” w zakresie testowania, wspólnych badań i opracowywania najlepszych praktyk.
Istnienie CASI nie jest jeszcze prawnie uregulowane, choć niektórzy amerykańscy prawodawcy przedstawili już projekt ustawy mającej na celu nadanie centrum stałego statusu. Dyrektor CASI, Chris Fall, który objął kierownictwo centrum po nagłym zwolnieniu Collina Burnsa, byłego badacza AI z firmy Anthropic, zauważył, że „te rozszerzone współprace branżowe pomagają skalować naszą pracę w interesie publicznym w krytycznym momencie”.
Plany administracji Trumpa dotyczące AI
Nowe umowy dotyczące oceny modeli pojawiły się po doniesieniach New York Times i Wall Street Journal o tym, że administracja Trumpa rozważa wydanie rozporządzenia wykonawczego w sprawie stworzenia rządowego procesu weryfikacji narzędzi AI, co, według tych publikacji, stanowiłoby formę nadzoru. Przedstawiciel Białego Domu nazwał dyskusje na temat potencjalnych rozporządzeń wykonawczych spekulacjami, stwierdzając, że wszelkie ogłoszenia nadejdą bezpośrednio od Trumpa.
Plan Działań Trumpa w zakresie AI, ogłoszony w lipcu, przewiduje, że CASI ma stać się częścią tak zwanej „ekosystemu oceny AI” i przewodzić ocenom modeli AI związanym z bezpieczeństwem narodowym. Plan dodaje również, że organy regulacyjne powinny „zbadać wykorzystanie ocen w stosowaniu obowiązującego prawodawstwa do systemów AI”. Szersza ocena modeli przez centrum może utorować drogę do nowego zastosowania już obowiązujących przepisów.
Wysiłki administracji w kształtowaniu polityki AI przyspieszyły po tym, jak Anthropic ogłosiło w zeszłym miesiącu, że jego przełomowy model Mythos sprawnie wykrywa słabe punkty w cyberbezpieczeństwie. Biały Dom już wcześniej sprzeciwił się planom Anthropic dotyczącym rozszerzenia dostępu do swojego modelu Mythos.
Źródło: Bloomberg Technology