Фото: https://www.microsoft.com
Американська Anthropic закликала провідні ШІ-лабораторії розглянути можливість уповільнення темпів розвитку цієї технології.
У компанії зазначають, що ШІ-системи вдосконалюються настільки швидко, що незабаром, можливо, стануть здатними покращувати себе без участі людини, і це несе в собі істотні ризики для суспільства.
Anthropic все більше передає процес розробки ШІ безпосередньо самим ШІ-системам, що значно прискорює роботу, йдеться в статті, опублікованій головою Anthropic Institute Мариною Фаваро та співзасновником компанії Джеком Кларком.
"Якщо цей процес продовжиться, то за наявності достатніх обчислювальних потужностей він може призвести до появи ШІ-системи, здатної самостійно проєктувати та розробляти свою наступну версію. Це називається рекурсивним самовдосконаленням. Ми ще не досягли цього етапу, і рекурсивне самовдосконалення не є неминучим. Однак воно може настати набагато раніше, ніж до цього будуть готові більшість суспільних інститутів", — йдеться в статті.
Експерти зазначають, що в найближчі роки можливості ШІ-систем суттєво зростуть. "ШІ, здатний самовдосконалюватися, став би найважливішим етапом у розвитку технологій і міг би принести колосальну користь людству — у науці, охороні здоров'я та багатьох інших сферах", — зазначають автори статті.
Ризики втрати контролю
Однак, за їхніми словами, це також підвищує ризик того, що люди втратять контроль над ШІ-системами.
"Якщо ШІ-системи зможуть повністю створювати своїх наступників, то питання забезпечення їхньої безпеки, моніторингу та управління їхньою поведінкою набудуть додаткової важливості", — підкреслюється в статті.
Автори вважають, що "було б корисно" уповільнити розвиток ШІ, щоб виграти більше часу для осмислення можливих наслідків і вирішення потенційних проблем.
Anthropic Institute має намір вживати заходів для створення механізмів задля уповільнення розвитку ШІ. При цьому в компанії зазначають, що для реального уповільнення розвитку цієї технології необхідно, щоб провідні ШІ-лабораторії в різних країнах світу домовилися про припинення розробок на однакових умовах. Крім того, знадобиться механізм, який дозволить кожній із цих організацій переконатися, що інші учасники дійсно дотримуються домовленостей і фактично зупинили роботи.