Ілон Маск, вчені та інші фахівці закликають призупинити розробку ШІ – чим вони стурбовані
Про це повідомляє " Дивогляд " з посиланням на лист, який опублікувала некомерційна організація Future of Life Institute .
"Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми будемо впевнені, що їхній ефект буде позитивним, а ризики керованими. Ця впевненість має бути добре виправдана і збільшуватися разом із величиною потенційних ефектів системи", – йдеться у листі.
Фахівці вважають, що при дослідженні та розвитку ІІ слід зосередитися на тому, щоб сучасні системи були більш точними, безпечними, інтерпретованими, прозорими, стійкими, приголосними, надійними та лояльними. Також вони закликають розробити робочу групу з незалежних фахівців та ІІ лабораторій для розвитку та впровадження загальних протоколів безпеки для розробки ІІ.
Одночасно має бути співпраця розробників ІІ з політиками для значного прискорення розробки надійних систем управління ІІ. Щонайменше вони повинні включати:
нові та заможні регуляторні органи, що займаються темою ІІ;
нагляд та відстеження високопродуктивних систем ІІ та великих обчислювальних можливостей;
системи походження та водяних знаків, щоб допомагати відрізняти справжнє від синтетичного та відстежувати витоку моделей;
надійну екосистему аудиту та сертифікації;
відповідальність за шкоду, заподіяну ІІ;
надійне держфінансування технічних досліджень безпеки ІІ;
добре забезпечені ресурсами установи, щоб долати драматичні економічні та політичні зриви (особливо для демократії), спричинені ІІ.
Цей лист підписав засновник SpaceX Ілон Маск, засновник Apple Стів Возняк, професори провідних світових ВНЗ, дослідники ІІ та інші.
"Замкнула проводка": у Росії спробували пояснити вибух у будівлі ФСБ у Ростові, росіяни не повірили
