Biały Dom przyznaje 20 milionów dolarów na narzędzia do cyberbezpieczeństwa AI
Kluczowe dania na wynos
- Konkurs Białego Domu, w którym przyznano nagrodę pieniężną w wysokości 20 milionów dolarów na rozwój sztucznej inteligencji w cyberbezpieczeństwie.
- Anthropic, Google, Microsoft i OpenAI to firmy współpracujące w konkursie z Defense Advanced Research Projects Agency (DARPA).
- Konkurs obejmuje nagrody w wysokości 7 milionów dolarów dla małych firm przyczyniających się do rozwoju.
Biały Dom chce sztuczna inteligencja odegrać rolę we wzmacnianiu cyberbezpieczeństwa kraju i wykorzystuje nagrodę pieniężną do pobudzenia konkurencji między niektórymi wiodącymi firmami Big Tech.
„AI Cyber Challenge” będzie zarządzane przez Agencję Zaawansowanych Projektów Badawczych w Obronie (DARPA), która przyzna nagrody prawie 20 milionów dolarów nagród dla firm, które opracowują najnowocześniejsze cyberbezpieczeństwo wykorzystujące sztuczną inteligencję, powiedział Biały Dom.
W konkursie wezmą udział wiodące firmy zajmujące się sztuczną inteligencją, w tym Anthropic, Google, Microsoft i twórca ChatGPT OpenAI, który zapewni narzędzia i dane innym firmom w konkurs. DARPA przeznaczy 7 milionów dolarów z nagrody pieniężnej dla małych firm, które wniosą wkład w konkurs.
Fundacja Open Source Security Foundation zostanie uwzględniona jako doradca, pomagając udostępnić rozwój szerszej publiczności. Urzędnik Białego Domu powiedział, że poprosi zwycięzców konkursu o dostosowanie ich narzędzi programowych otwarte źródło licencji, umożliwiając użytkownikom, od programistów-wolontariuszy po przemysł komercyjny, korzystanie z tych rozwiązań.
„Chcemy stworzyć systemy, które mogą automatycznie bronić oprogramowania przed atakiem” – powiedział przedstawiciel Białego Domu. „Jeśli się powiedzie, możemy tutaj pokazać, jak sztuczna inteligencja może być przydatna dla lepszego społeczeństwa, broniąc swoich krytycznych podstaw”.
Wyzwanie w zakresie cyberbezpieczeństwa Najnowsze projekty AI w Białym Domu
Wyzwanie związane z cyberbezpieczeństwem AI to najnowsze oświadczenie administracji Bidena-Harrisa dotyczące jej wysiłków na rzecz zaangażowania prywatnych firm opracowujących narzędzia AI, które obejmowały kilkaspotkania z tymi firmami, wraz z dobrowolnym zobowiązaniem siedmiu czołowych firm zajmujących się sztuczną inteligencją do spełnienia takich zabezpieczeń, jak treści generowane przez AI ze znakami wodnymi i poddawanie produktów testom zewnętrznym.
Biały Dom powiedział, że ujawni nowe zasady dla pracowników rządowych regulujące korzystanie z AI, a także „ponadpartyjne ustawodawstwo, które pomoże Ameryce przewodzić w odpowiedzialnych innowacjach AI”.
Konferencja dotycząca bezpieczeństwa cybernetycznego oferuje możliwości przeglądu LLM
Biały Dom ogłosił konkurs cyberbezpieczeństwa na konferencji Black Hat USA Conference w Las Vegas, największej konferencji cyberbezpieczeństwa w kraju.
I to przed kolejnym oczekiwanym wydarzeniem dotyczącym rozwoju sztucznej inteligencji, kiedy to uczestnicy konferencji DEF CON 2023, która odbędzie się jeszcze w tym tygodniu, będą mieli okazję przeprowadzić niezależne, publiczne przeglądy z kilku wiodących dużych modeli językowych (LLM), takich jak ChatGPT i Inflection's Pi. Biały Dom wymienił przegląd jako kluczowy krok w dobrowolnych zobowiązaniach branży przed każdy ustawa o sztucznej inteligencji powiedział, że będzie ścigał, jeśli zajdzie taka potrzeba.