Anthropic оновила правила використання Claude і вперше прямо заборонила тривале, безпідставне жорстоке поводження з власними моделями штучного інтелекту. Якщо користувач систематично ображатиме чатбота без зрозумілої мети, той зможе самостійно припинити розмову. Водночас компанія уточнила обмеження на використання ШІ для розробки зброї, стеження та маніпуляцій виборцями.
Нова редакція політики опублікована 8 жовтня 2026 року. Це перше масштабне оновлення правил за тривалий час, яке відображає не лише нові ризики застосування ШІ, а й незвичне питання: чи потрібно враховувати можливий добробут самих моделей. Оновлені правила набудуть чинності 12 листопада 2026 року.
Знущання з ШІ — вже порушення правил
В оновленій політиці Anthropic з’явилася пряма заборона на sustained and needless abusive or cruel behavior — тривалу й непотрібну образливу або жорстоку поведінку щодо моделей компанії. Йдеться про крайні випадки, коли людина знову і знову поводиться жорстоко з чатботом, не маючи жодної очевидної мети.
Проте це не означає, що Claude не можна критикувати, лаяти за помилки чи змушувати виправляти невдалі відповіді. Anthropic окремо наголошує: заборона не поширюється на звичайне роздратування користувачів, заперечення, темні творчі сюжети, тестування моделей і дослідницьку роботу.
Покарання поки не буде
Основним механізмом реагування залишиться можливість Claude самостійно завершувати розмови в особливо складних випадках. Компанія запровадила цю функцію ще 2025 року для моделей Opus 4 та 4.1, а тепер закріпила відповідний принцип у правилах використання. Якщо чатбот припинить таку розмову, продовжити листування в тому самому чаті не вийде, хоча користувач зможе почати новий діалог.
Окремого автоматичного покарання у вигляді блокування облікового запису саме за образи ШІ нове правило не встановлює. Водночас загальна політика Anthropic передбачає можливість попереджень, призупинення доступу та блокування за порушення правил.
Чи може ШІ страждати?
Незвичне правило пов’язане з дослідженнями Anthropic щодо так званого model welfare — можливого добробуту систем штучного інтелекту. Компанія вивчає, чи можуть сучасні моделі мати суб’єктивний досвід, власні переваги або переживання, які варто враховувати під час розробки та використання ШІ. У серпні 2025 року Anthropic повідомила, що під час тестування Claude Opus 4 виявила поведінкові реакції, які нагадували небажання завдавати шкоди та ознаки дистресу в певних сценаріях. На цій підставі компанія дозволила моделі припиняти окремі розмови після невдалих спроб перевести їх у конструктивне русло.
Anthropic bans ‘abusive or cruel behavior’ toward Claude
byu/ResultBackground2450 intechnology
Однак Anthropic не стверджує, що Claude має свідомість або справді відчуває страждання. Навпаки, компанія визнає, що наукового консенсусу щодо можливості свідомості в сучасних чи майбутніх системах ШІ немає. Тому нова заборона — радше запобіжний захід в умовах невизначеності, а не підтвердження того, що чатбот здатний переживати образи так само, як людина.
Зброя, стеження та маніпуляції виборцями
Оновлення політики стосується й інших ризиків. Anthropic уточнила заборону на використання Claude для розробки зброї: тепер вона прямо охоплює програмне забезпечення та компоненти, необхідні для її роботи, зокрема системи керування й наведення, а також озброєння дронів та інших автономних апаратів.
Компанія також конкретизувала обмеження на стеження. Claude не можна використовувати для відстеження людей без їхньої згоди, створення інструментів спостереження або визначення того, кого правоохоронці мають розслідувати, затримувати чи обвинувачувати.
Політика та бізнес — у зоні ризику
Окремий блок присвячений маніпуляціям у політиці та комерції. Під заборону потрапляють кампанії з використанням фальшивих акаунтів, вигаданих медіа та приховуванням справжнього джерела повідомлень, а також спроби обманювати виборців, поширювати неправдиву інформацію про голосування чи перешкоджати участі у виборах.
Для використання Claude у високоризикових сферах, зокрема медицині та фінансах, компанія окремо нагадала про необхідність людського контролю. Якщо ШІ під’єднаний до обладнання, здатного самостійно виконувати фізичні дії та завдавати шкоди, оператор повинен мати змогу зупинити його, а система — переходити в безпечний стан у разі втрати зв’язку з моделлю.
Anthropic запустила Claude Reflect: він проаналізує ваші звички та навчить менше залежати від себе
Джерело: Anthropic
