Pierwsze w historii prawnie egzekwowalne rozporządzenie dotyczące sztucznej inteligencji, AI Act, będzie wdrażane pod nadzorem Europejskiego Urzędu ds. sztucznej inteligencji, który ma rozpocząć działalność w przyszłym miesiącu.

• Europejski Urząd ds. Sztucznej Inteligencji będzie nadzorował wdrażanie pierwszego prawnie egzekwowalnego rozporządzenia w sprawie sztucznej inteligencji, AI Act.
• Biurem pokieruje Lucilla Sioli, była szefowa branży cyfrowej i sztucznej inteligencji w Dyrekcji Generalnej ds. Sieci Komunikacyjnych, Treści i Technologii Komisji Europejskiej.
• Ustawa o sztucznej inteligencji zakazuje stosowania w miejscach pracy i instytucjach edukacyjnych aplikacji AI stwarzających zagrożenie dla ludzi, takich jak rozpoznawanie emocji.
• Naruszenia mogą skutkować grzywnami w wysokości do 35 milionów euro lub 7% rocznych przychodów firmy.
• Biuro będzie nadzorować zadania obejmujące ocenę ryzyka modelu i badanie naruszeń.
• Agencja opracuje zalecenia dotyczące systemów sztucznej inteligencji i zakazów, które wejdą w życie przed końcem tego roku.
• AI Office przetestuje modele w rzeczywistych scenariuszach i udostępni piaskownice AI, aby przyspieszyć rozwój niezawodnej sztucznej inteligencji.
• Krytycy twierdzą, że proces przeglądu modeli ogranicza udokumentowane wyniki i że prawo zawiera luki, które pozwalają firmom zajmującym się sztuczną inteligencją klasyfikować się jako niskiego ryzyka, unikając ocen bezpieczeństwa.

Lucilla Sioli, która wcześniej była odpowiedzialna za przemysł cyfrowy i sztuczną inteligencję w Dyrekcji Generalnej ds. Sieci Komunikacyjnych, Treści i Technologii Komisji Europejskiej, będzie kierować Biurem ds. sztucznej inteligencji. 

Aplikacje sztucznej inteligencji, które stanowią zagrożenie dla ludzi, takie jak rozpoznawanie emocji, są zabronione w miejscach pracy i instytucjach edukacyjnych na mocy ustawy o sztucznej inteligencji. Co więcej, zakazuje ona scoringu społecznościowego i wykorzystywania nagrań z kamer przemysłowych do tworzenia baz danych do rozpoznawania twarzy. Firmy, które naruszą prawo, mogą zostać ukarane grzywną w wysokości do 35 milionów euro lub 7% ich rocznych przychodów biznesowych 

140 pracowników, w tym prawnicy, ekonomiści i eksperci w dziedzinie technologii i polityki, będzie pomagać urzędowi. Będą oni nadzorować zadania, w tym ocenę ryzyka modeli i badanie wszelkich wykroczeń.

Agencja, która zostanie otwarta 16 czerwca, wkrótce opracuje zalecenia dotyczące systemów sztucznej inteligencji i zakazów, które wejdą w życie przed końcem tego roku. Zaproponuje również przepisy dotyczące sztucznej inteligencji ogólnego przeznaczenia. Starania Unii Europejskiej zbiegają się w czasie z rosnącymi obawami dotyczącymi sztucznej inteligencji. Dobrowolne kodeksy postępowania są wykorzystywane jako rodzaj nadzoru regulacyjnego przez liczne rządy, takie jak Stany Zjednoczone i Wielka Brytania, nad tym szybko rozwijającym się biznesem. Obejmują one Deklarację z Bletchley, która została podpisana przez Microsoft i OpenAI, firmę tworzącą ChatGPT. W ramach tej deklaracji firmy zobowiązały się do przestrzegania zestawu wytycznych dotyczących bezpieczeństwa, takich jak ocena ich modeli przed wypuszczeniem algorytmów sztucznej inteligencji na rynek. Na szczycie AI Seoul Summit w Korei Południowej te same korporacje podpisały podobne dobrowolne zobowiązanie, które obejmowało między innymi aktualizację ram zarządzania sztuczną inteligencją i zmuszanie firm do tworzenia progów zapobiegających niewłaściwemu wykorzystaniu systemów AI.

Podobnie jak w przypadku dwóch dobrowolnych oświadczeń, AI Office będzie testować modele w rzeczywistych scenariuszach i udostępniać piaskownice AI, między innymi w celu przyspieszenia rozwoju niezawodnej sztucznej inteligencji. Algorytmy są testowane w odizolowanych środowiskach, a nie w kontekście ich szerszych zastosowań, co ogranicza udokumentowane wyniki, według krytyków procesu przeglądu modeli.

Sztuczna inteligencja ogólnego przeznaczenia i inne systemy sztucznej inteligencji wysokiego ryzyka są wymagane przez ustawę o sztucznej inteligencji do poddania się środkom zgodności, takim jak oceny modeli, oceny i ograniczanie ryzyka systemowego oraz zgłaszanie incydentów bezpieczeństwa. Jednak według grup zajmujących się prywatnością sztucznej inteligencji prawo zawiera luki, które pozwalają firmom zajmującym się sztuczną inteligencją klasyfikować się jako niskiego ryzyka, unikając w ten sposób ocen bezpieczeństwa.

Naukowcy z Ada Lovelace Institute doszli do wniosku, że ,,obecne praktyki oceny są lepiej dostosowane do interesów firm niż opinii publicznej lub organów regulacyjnych. W dużych firmach technologicznych bodźce komercyjne skłaniają je do priorytetowego traktowania oceny wydajności i kwestii bezpieczeństwa stwarzających ryzyko dla reputacji (a nie kwestii bezpieczeństwa, które mogą mieć bardziej znaczący wpływ społeczny)”.