Безпека · 2026-10-19

Anthropic дає зовнішнім перевіряльникам доступ, як до власних співробітників

Компанія Anthropic, яка створює ШІ-модель Claude, надала незалежній організації METR доступ до своїх систем на рівні співробітників, щоб та могла перевіряти їх на безпеку.

✨ Що сталося

Компанія Anthropic, яка розробляє ШІ-модель Claude, надала організації METR доступ до своїх систем, майже такий самий, як у власних співробітників. Про це повідомляє агентство Reuters, а новину подано в межах ширшої роботи компанії над безпекою штучного інтелекту.

Головне тут те, що перевірку проводить зовнішня сторона, а не лише сама компанія-розробник. Так можна глянути на ШІ незалежним поглядом.

📌 Хто такі METR

METR є незалежною організацією, яка досліджує та перевіряє ШІ-моделі. Її фахівці шукають, чи не можуть системи робити щось небезпечне або непередбачуване, наприклад, допомагати в шкідливих діях або виходити з-під контролю.

Для звичайної людини це схоже на незалежну технічну експертизу. Вона потрібна, щоб не довіряти безпеку ШІ лише на слово розробникові.

🔹 Чому це важливо

Чим потужнішими стають ШІ-моделі, тим важливішою стає їхня перевірка до того, як ними почнуть масово користуватися. Зовнішній доступ дає можливість знаходити проблеми, які внутрішня команда могла не помітити.

Ця новина показує, що галузь поступово рухається до практики незалежного контролю безпеки. Докладніших деталей, таких як конкретні моделі чи результати перевірки, у короткому повідомленні немає, тому варто стежити за подальшими публікаціями.

Джерела: 🔗 Google News