۵ خطر بزرگ هوش مصنوعی که دانشمندان درباره آن هشدار می‌دهند

به گزارش اتاق تجارت ؛ نتایج یک نظرسنجی از  ۲۷۲ کارشناس بین‌المللی که در اواخر سال ۲۰۲۵ انجام شده، نشان می‌دهد اگر شرکت‌های فعال در حوزه هوش مصنوعی مسیر فعلی خود را ادامه دهند، احتمال وقوع پیامدهای فاجعه‌بار بین سال‌های ۲۰۲۵ تا ۲۰۳۰ قابل توجه است.

۵ خطر هوش مصنوعی که بیشترین احتمال وقوع فاجعه را دارند

بر اساس میانگین ارزیابی این کارشناسان، مهم‌ترین خطرات عبارت‌اند از:

مهم‌ترین تهدیدهای هوش مصنوعی از نگاه کارشناسان

بر اساس مطالعه‌ای که پژوهشگران مؤسسه فناوری ماساچوست (MIT) انجام داده‌اند، کارشناسان معتقدند احتمال اینکه هوش مصنوعی طی پنج سال آینده به قابلیت‌های خطرناک در حوزه سلاح‌ها دست پیدا کند یا باعث آسیب‌های گسترده‌ای شود که جان میلیون‌ها نفر را تهدید کند، حدود یک در پنج است.

این نتایج هم‌زمان با افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی و امنیت سایبری منتشر شده؛ موضوعی که همزمان با رقابت دولت‌ها و شرکت‌های فناوری برای توسعه مدل‌های پیشرفته‌تر، بیش از گذشته مورد توجه قرار گرفته است.

پژوهشگران MIT و دانشگاه کوئینزلند استرالیا از  ۲۷۲ متخصص بین‌المللی  خواستند ۲۴ نوع خطر مرتبط با هوش مصنوعی را از نظر احتمال وقوع و شدت پیامدها در بازه زمانی ۲۰۲۵ تا ۲۰۳۰ ارزیابی کنند.

نتایج نشان داد   ۱۸ مورد از ۲۴ خطر بررسی‌شده ، دست‌کم  ۱۰ درصد احتمال ایجاد پیامدهای فاجعه‌بار در پنج سال آینده را دارند.

پژوهش MIT درباره خطرات هوش مصنوعی چه می‌گوید؟

در این پژوهش، «پیامد فاجعه‌بار» به رویدادی اطلاق شده که یکی از شرایط زیر را داشته باشد:

• مرگ بیش از یک میلیون نفر
•  خسارت اقتصادی بیش از ۱۰۰ میلیارد دلار
•  یا پیامدهای گسترده و عمیق در مقیاس تمدن بشری

 پنج خطر اصلی هوش مصنوعی

 ۱. دستیابی هوش مصنوعی به قابلیت‌های خطرناک

کارشناسان معتقدند توسعه قابلیت‌هایی مانند فریب انسان‌ها، ساخت سلاح، اجرای حملات سایبری یا عملکردهای خارج از کنترل، می‌تواند زمینه‌ساز آسیب‌های گسترده شود.

احتمال برآوردشده: ۲۱.۵ درصد

۲. حملات سایبری و توسعه سلاح‌های مخرب

استفاده از هوش مصنوعی برای طراحی سلاح‌های شیمیایی، زیستی، حملات سایبری یا حتی کمک به ساخت تسلیحات کشتار جمعی، دومین خطر بزرگ ارزیابی شده است.

احتمال برآوردشده: ۲۱ درصد

۳. تمرکز قدرت و توزیع نابرابر مزایا

اگر منافع هوش مصنوعی تنها در اختیار گروه‌ها یا شرکت‌های محدودی قرار گیرد، ممکن است نابرابری‌های اجتماعی و اقتصادی تشدید شود.

احتمال برآوردشده: ۱۸ درصد

۴. رقابت شدید میان شرکت‌های فناوری

کارشناسان هشدار داده‌اند رقابت برای عرضه سریع‌تر و قدرتمندتر مدل‌های هوش مصنوعی می‌تواند باعث توسعه سامانه‌هایی شود که هنوز از نظر ایمنی به اندازه کافی آزمایش نشده‌اند.

**احتمال برآوردشده: ۱۶.۶ درصد**

۵. گسترش اطلاعات نادرست

تولید اطلاعات غلط یا گمراه‌کننده توسط هوش مصنوعی می‌تواند باعث شکل‌گیری باورهای نادرست و تصمیم‌گیری اشتباه در میان کاربران شود.

احتمال برآوردشده: ۱۲.۸ درصد

آیا می‌توان این خطرات را کاهش داد؟

کارشناسان شرکت‌کننده در این مطالعه معتقدند راهکارهایی برای کاهش شدت پیامدهای احتمالی وجود دارد، اما حتی در صورت اجرای این اقدامات نیز احتمال وقوع بسیاری از این خطرات همچنان بالاتر از ۱۰ درصد باقی می‌ماند.

نگرانی‌ها درباره ایمنی هوش مصنوعی ادامه دارد

بحث درباره ایجاد مقررات و سازوکارهای ایمنی برای هوش مصنوعی همچنان ادامه دارد. رفتار مدل‌های هوش مصنوعی و حتی برداشت عمومی از عملکرد آن‌ها می‌تواند به سرعت بازارها، سیاست‌گذاری‌ها و تصمیم‌های کلان را تحت تأثیر قرار دهد.

مزایای هوش مصنوعی نیز قابل توجه است

در مقابل این نگرانی‌ها، بسیاری از متخصصان معتقدند هوش مصنوعی باعث افزایش چشمگیر بهره‌وری، خودکارسازی فرایندها و بهبود عملکرد در صنایع مختلف شده و فرصت‌های اقتصادی گسترده‌ای ایجاد کرده است.

جمع‌بندی

پژوهشگران تأکید می‌کنند که اگرچه وقوع سناریوهای فاجعه‌بار مرتبط با هوش مصنوعی قطعی نیست، اما احتمال آن به اندازه‌ای قابل توجه است که دولت‌ها، شرکت‌ها و نهادهای مسئول باید این تهدیدها را جدی بگیرند و برای کاهش ریسک‌های احتمالی برنامه‌ریزی کنند.