احتمال انقراض نسل انسان به علت هوش مصنوعی

باشگاه خبرنگاران جوان؛ جواد فراهانی – رومن یامپولسکی، محقق متخصص در امنیت هوش مصنوعی، هشدار می دهد که توسعه سریع این فناوری می تواند منجر به انقراض بشریت شود.
یامپولسکی تخمین می زند که امکان رخداد این سناریوی فاجعه بار در ۱۰۰ سال آینده به ۹۹.۹ درصد می رسد.
این محقق هوش مصنوعی، هشدار خویش را بر مبنای مشاهداتش بر مبنای این که همه سیستم های هوش مصنوعی فعلی فاقد حفاظات امنیتی کافی هستند، بیان می کند و هیچ امیدی نمی بیند که نسل های آینده این فناوری ها مشکلات اساسی خویش را حل کنند. بنابراین، او به لیست رو به رشدی از متخصصان نگران، همچون بعضی از پیشگامان این حوزه، می پیوندد.
یامپولسکی کتابی با عنوان «هوش مصنوعی: غیرقابل توضیح، غیرقابل پیشبینی، غیرقابل کنترل» منتشر نموده است که در آن خطرات اصلی، مانند عدم توانایی در پیشبینی رفتار هوش مصنوعی یا درک دلیلهای تصمیمات آنرا توضیح می دهد.
این کتاب به مسایل پیچیده ای مانند این که چه کسی این فناوری را کنترل می کند و پیامد های ناخواسته آنچه می تواند باشد، می پردازد و با بحث های فلسفی در مورد این که آیا هوش مصنوعی می تواند دارای آگاهی یا شخصیت باشد، تمام می شود.
در صورتیکه پیشکسوتانی مانند یامپولسکی جزء بدبین ترین افراد هستند، تحقیقات دیگر تخمین های نه چندان وخیمی ارایه می دهند. مطالعه ای که توسط دانشگاه های آکسفورد و بن انجام شد و بیشتر از ۲۷۰۰ متخصص را مورد بررسی قرار داد، احتمال انقراض انسان به سبب هوش مصنوعی را تنها ۵ درصد تخمین زد.
کاتیا گریس، محقق، توضیح می دهد که بیشتر متخصصان خودِ خطر را تصدیق می کنند، اما اختلاف نظر واقعی در میزان دقیق آن نهفته است.
از طرفی، چهره های برجسته ای مانند اندرو نگ، یکی از بنیانگذاران گوگل برین و یان لکان، پیشگام هوش مصنوعی، ایده انقراض کامل انسان را رد می کنند. لکان استدلال می کند که بعضی از هشدار های اغراق آمیز امکان دارد اهدافی غیر از علم داشته باشند.
از طرفی، سم آلتمن، رییس OpenAI، اظهارات جنجالی بیان کرد و اخطار داد که هوش مصنوعی تعداد زیادی از مشاغلی را که او آنها را «کار واقعی» توصیف نکرده بود، از بین خواهد برد که انتقادات گسترده ای را به دنبال داشت. وی همینطور پیش بینی نمود که این فناوری منجر به تغییرات اساسی در «قرارداد اجتماعی» موجود خواهد شد.
بیشتر از یک دهه پیش، در سال ۲۰۱۵، آلتمن جمله معروفی اظهار داشت: «هوش مصنوعی به احتمال زیاد به پایان جهان منجر خواهد شد، اما پیش از آن، شرکتهای بزرگی بوجود خواهد آورد.»
منبع: اکسپرس
بنابراین، او به فهرست رو به رشدی از متخصصان نگران، همچون برخی از پیشگامان این حوزه، می پیوندد.
یامپولسکی کتابی با عنوان هوش مصنوعی: غیرقابل توضیح، غیرقابل پیش بینی، غیرقابل کنترل منتشر نموده است که در آن خطرات اصلی، مانند عدم توانایی در پیش بینی رفتار هوش مصنوعی یا درک دلیلهای تصمیمات آن را توضیح می دهد.
این کتاب به مسائل پیچیده ای مانند اینکه چه کسی این فناوری را کنترل می کند و پیامد های ناخواسته آن چه می تواند باشد، می پردازد و با بحث های فلسفی در مورد اینکه آیا هوش مصنوعی می تواند دارای آگاهی یا شخصیت باشد، تمام می شود.
در صورتی که پیشکسوتانی مانند یامپولسکی جزء بدبین ترین افراد هستند، تحقیقات دیگر تخمین های نه چندان وخیمی ارائه می دهند. وی همچنین پیش بینی کرد که این فناوری منجر به تغییرات اساسی در قرارداد اجتماعی موجود خواهد شد.
بیشتر از یک دهه پیش، در سال ۲۰۱۵، آلتمن جمله معروفی گفت: هوش مصنوعی به احتمال زیاد به پایان جهان منجر خواهد شد، اما قبل از آن، شرکتهای بزرگی بوجود خواهد آورد.