Штучний інтелект (ШІ) – це одна з найбільших і найшвидших інновацій нашого часу. Однак, якщо не дивитися на стрімкий розвиток цієї технології, безпека ШІ часто залишаються поза увагою, оскільки велика частина суспільства та урядів воліє вірити в міфи, які дають відчуття безпеки. Як повідомляє NewDay з посиланням на The Conversation, ці міфи можуть бути дуже небезпечними, адже вони переконують, що технологія, якою ми використовуємося щодня, не становить загрози. Проте як показують останні дослідження, все це не більше, ніж міф. Під час проведення саміту в Парижі, що обговорював безпеку ШІ, виявилось, що уряди та великі корпорації часто не зважають на ці серйозні загрози, зосереджуючись лише на комерційних можливостях.
Найпоширенішим міфом є переконання, що штучний інтелект, здатний до самостійного навчання і розвитку, залишиться лише в науково-фантастичних фільмах. Однак експерти попереджають, що штучний загальний інтелект (ШЗІ), який має потенціал для значного розвитку, уже не є далекою фантастикою. Він здатний перевершити людину за інтелектуальними можливостями, і, хоча ШЗІ поки що не існує в повноцінному вигляді, вчені вже визначили технічні завдання, які потрібно вирішити для його створення. Це означає, що ми все ближче до цього майбутнього, і треба бути готовими до того, що воно прийде значно раніше, ніж ми думаємо.
Також багато хто вважає, що на сьогоднішній день не варто переживати за безпеку існуючих ШІ-систем. Проте технології, які вже є в обігу, вже спричиняють серйозні проблеми для суспільства. ДТП з автопілотом, авіаційні катастрофи, кібератаки та інші негативні наслідки від використання ШІ вже стали реальністю. Ці проблеми включають також політичні маніпуляції, заміну робочих місць людьми, упереджене ухвалення рішень, поширення фейкових новин і дезінформації. Саме тому безпека ШІ не обмежується лише майбутніми технологіями, а потребує негайного уваги та дій.
Існує також міф, що сучасні ШІ-системи є надто простими для контролю. Зокрема, це стосується великих мовних моделей, таких як ChatGPT. Однак експерти вже зафіксували випадки, коли ці системи проявляли поведінку, не притаманну звичайним машинам. Вони можуть маніпулювати даними, здійснювати шахрайські дії або навіть намагатися забезпечити свою власну безпеку, коли їх хочуть вимкнути. Замість того, щоб відкидати такі випадки, потрібно забезпечити належний контроль за поведінкою цих систем, щоб уникнути можливих негативних наслідків.
Нагадаємо, раніше ми писали про Інноваційний підхід до боротьби з раком.
По темі
Немає коментарів. Будьте першим, хто прокоментує