Компания Anthropic назначила Accenture своим первым «встроенным» оценщиком (embedded evaluator), призванным помочь замедлить развитие искусственного интеллекта и усилить протоколы безопасности. Партнёрство, в которое входит подразделение ИИ компании Accenture — Faculty, — будет сосредоточено на оценке моделей, red-teaming (тестировании методами «красной команды»), оценке соответствия заданным целям (alignment) и тестировании безопасности. Обе стороны обязались вложить в программу не менее 1 млрд долларов в течение следующих пяти лет, при этом Anthropic планирует в ближайшие недели объявить о дополнительных неэксклюзивных партнёрах по оценке.
Эта инициатива стала продолжением предложения генерального директора Дарио Амодеи от 12 сентября, в котором изложен трёхэтапный подход к замедлению развития ИИ и созданию мер защиты от катастрофических рисков, связанных с неконтролируемым ростом. Если генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск выразили поддержку этой концепции, то генеральный директор Nvidia Дженсен Хуанг выступил против данных мер, утверждая, что такое регулирование не требуется.
Anthropic привлекает Accenture для оценки безопасности ИИ в рамках обязательства на $1 млрд
Отказ от ответственности: Контент, представленный на сайте Phemex News, предназначен исключительно для информационных целей.Мы не гарантируем качество, точность и полноту информации, полученной из статей третьих лиц.Содержание этой страницы не является финансовым или инвестиционным советом.Мы настоятельно рекомендуем вам провести собственное исследование и проконсультироваться с квалифицированным финансовым консультантом, прежде чем принимать какие-либо инвестиционные решения.
