Глава OpenAI Сем Альтман розповів про два сценарії розвитку штучного інтелекту, які викликають у нього найбільше занепокоєння. Перший – ситуація, коли контроль над ШІ опиниться в руках невеликої кількості компаній, розробників або окремих людей. У такому випадку більшість користувачів практично не зможе впливати на те, як технологія змінюватиме суспільство.
На думку Альтмана, важливо зберегти за людьми можливість впливати на майбутнє штучного інтелекту. Він вважає, що суспільство та ШІ мають розвиватися разом, а рішення щодо подальшого використання технології не повинні ухвалюватися вузьким колом організацій.
Другий сценарій пов’язаний із можливою втратою контролю над ШІ. Альтман зазначає парадокс: страх перед таким розвитком подій сам може призвести до надмірного обмеження свободи. Люди можуть погодитися передати занадто багато повноважень державам або великим компаніям, якщо це буде представлено як спосіб захисту від потенційних загроз ШІ.
У матеріалі також згадується глава Anthropic Даріо Амодеї, який неодноразово попереджав про ризики стрімкого розвитку ШІ. Зокрема, він говорив про потенційні загрози для кібербезпеки, фінансової системи та критичної інфраструктури.
Проблема контролю над ШІ стає дедалі актуальнішою. Великі технологічні компанії сперечаються не лише про безпеку, а й про те, наскільки відкритими мають бути сучасні моделі. Одні виступають за вільне поширення технологій, інші вважають, що потужні системи потребують додаткових обмежень.
Думка редакції
Слова Сема Альтмана цікаві тим, що глава однієї з найбільших ШІ-компаній говорить не лише про загрозу неконтрольованого штучного інтелекту, а й про протилежну проблему – надмірну концентрацію влади. Між безпекою та свободою справді існує тонка межа. Занадто слабкий контроль може створити серйозні ризики, але надмірне регулювання здатне передати занадто багато впливу державам або кільком великим компаніям. Тому головне питання майбутнього ШІ – не лише наскільки потужним він стане, а й хто ухвалюватиме рішення щодо його розвитку.
