Deweloperzy stworzyli koalicję bezpiecznej AI. Czołowi twórcy na pokładzie.

Czołowi twórcy rozwiązań AI połączyli siły, aby powołać grupę branżową Coalition for Secure AI (CoSAI), której współprzewodniczyć będą David LaBianca – starszy dyrektor Google oraz Omar Santos – inżynier i badacz bezpieczeństwa AI w Cisco. Nowo powstała koalicja ma wspierać deweloperów w budowaniu bezpiecznych rozwiązań opartych o sztuczną inteligencję. 

Misja koalicjantów CoSAI 

Według zapewnień członków CoSAI, koalicja powstała, by udostępniać deweloperom opracowane metodologie, frameworki oraz narzędzia, które mają pomóc tworzyć i trenować jeszcze sztuczną inteligencję w możliwie najbezpieczniejszy sposób. 

„Nie wiemy, jaki wpływ będzie miał CoSAI na branżę AI, ale zdajemy sobie sprawę z tego, że istnieją duże obawy dotyczące wycieku poufnych informacji oraz zautomatyzowanej dyskryminacji.” – czytamy w wypowiedzi koalicjantów.

W ramach CoSAI powołano także organizację na rzecz rozwoju standardów informacji strukturalnej

Aby sprostać ww. wyzwaniom, z jakimi będą się mierzyć deweloperzy, do współpracy zaproszono również firmy IBM, PayPal, Cisco i Anthropic, które będą działać w ramach organizacji na rzecz rozwoju standardów informacji strukturalnej (OASIS). Do ich zadań będzie należało m.in.: opracowanie najlepszych praktyk w zakresie bezpieczeństwa AI, przeciwdziałanie problemom dot. AI oraz zabezpieczenie aplikacji i narzędzi, które są oparte o sztuczną inteligencję.

Pełna lista aktualnych koalicjantów CoSAI i OASIS

• Amazon
• Anthropic
• Cisco
• Chainguard
• Cohere
• GenLab
• Google
• IBM
• Intel
• Microsoft
• nVidia
• OpenAI
• PayPal
• Protect AI
• Wiz

Czy w Polsce również powstaną standardy bezpieczeństwa AI?

O podobnych podejściach do AI mogliśmy usłyszeć ostatnio ze strony IAB Polska, którego przedstawiciel na jednej z konferencji enigmatycznie wspomniał o powołaniu inicjatywy mającej ustandaryzować i wyedukować specjalistów z różnych branż w zakresie m.in. bezpieczeństwa w sztucznej inteligencji. 

Na szczegóły z lokalnego podwórka przyjdzie nam jeszcze chwilę poczekać. Czas pokaże, jak kwestie bezpieczeństwa zostaną rozpisane po stronie zrzeszonych członków i członkiń wokół IAB Polska.