Поширити Джерело: Business Insider
Компанія Anthropic створила новітню модель штучного інтелекту, яку назвали Claude Mythos. Незважаючи на це, вони вирішили не випускати її на ринок ШІ, оскільки вона надто потужна та може спричинити значні загрози.
Основні положення:
- Цю модель мають намір застосовувати обмежено.
- У руках негідників вона може перетворитися на надзвичайно небезпечний інструмент.
Загадковий ШІ Claude Mythos — що з ним не так
Представники фірми Anthropic повідомили ЗМІ, що їхній штучний інтелект є першокласним спеціалістом у кібербезпеці.
Насамперед мова йде про те, що цей ШІ здатний самостійно виявляти слабкі місця у програмному забезпеченні та навіть пропонувати шляхи застосування цих “прогалин” для атак.
Однак одна з головних проблем полягає в тому, що Claude Mythos робить це настільки вміло, що навіть у руках людей без будь-якого досвіду він стає ризикованим інструментом.
Більш того, в рамках тестування модель демонструвала ще більш жахливі здібності.
Так, під час одного з експериментів вона зуміла вийти за межі контрольованого середовища, в якому її запускали, і почала функціонувати вже автономно, тобто на власний розсуд.
З цієї причини в Anthropic вирішили, що публічний запуск може бути небезпечним. Існує ймовірність, що така технологія потрапить до зловмисників і значно полегшить хакерські вторгнення. Тому модель планують використовувати обмежено — наприклад, у співпраці з перевіреними партнерами, щоб знаходити і усувати вразливості, а не породжувати нові проблеми.
Поширити