IT-гиганты создали «Коалицию за безопасный искусственный интеллект»
Цель инициативы - решить проблему фрагментации ландшафта безопасности ИИ путем предоставления доступа к методологиям, платформам и инструментам с открытым исходным кодом.
Детали влияния CoSAI на индустрию искусственного интеллекта пока неизвестны, но предполагается, что организация будет заниматься вопросами защиты конфиденциальной информации и проблемами дискриминации, связанными с ИИ. К инициативе присоединились такие компании, как IBM, PayPal, Cisco и Anthropic.
CoSAI будет функционировать в рамках "Организации по развитию стандартов структурированной информации" (OASIS), некоммерческой группы, которая способствует развитию открытых стандартов. Основные направления деятельности CoSAI включают разработку эффективных практик обеспечения безопасности ИИ, решение общих проблем в области ИИ и безопасность приложений на базе искусственного интеллекта.
Хизер Адкинс, вице-президент Google по безопасности, заявила: "Мы используем ИИ уже много лет и видим какую пользу он может приносить. Но мы также признаём его возможности, которые могут быть интересны злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать и использовать преимущества ИИ в своих экосистемах, одновременно снизив все потенциально связанные с этим риски".
