پیکسلر | شبکه اجتماعی برنامه نویسان

آیا آینده هوش مصنوعی ترسناک است؟ آیا باید از تسلط هوش مصنوعی بر جهان بترسیم؟

masi 2 ماه پیش

آیا هوش مصنوعی دوست ماست یا دشمن آینده؟ آیا انسان‌ها که خودشان آن‌ها را ساخته‌اند باید با هم متحد شوند تا از این تهدید برای تمدن بشری عبور کنند؟ این چالش ممکن است ترسناک به نظر برسد، اما پیش از این هم خطرات وحشتناکی را پشت سر گذاشته‌ایم.

یکی از نگرانی‌ها این است که اگر سیستم‌های هوش مصنوعی بسیار هوشمندتر و توانمندتر از انسان شوند، ممکن است از کنترل یا درک ما خارج شوند. این سناریوی فرضی، که به هوش مصنوعی عمومی (AGI) معروف است، پرسش‌هایی درباره اهداف، فرآیندهای تصمیم‌گیری و خطرات احتمالی آن در صورت عدم تطابق با ارزش‌های انسانی ایجاد می‌کند.

نگرانی‌ها درباره هوش مصنوعی (AI) به‌عنوان یک تهدید بالقوه در آینده از عوامل و دیدگاه‌های مختلفی نشأت می‌گیرد. بیایید بفهمیم که ترس انسان‌ها از ماشین‌های هوشمند به چه چیزی مرتبط است و واقعاً باید نگران چه مواردی باشیم؟در ادامه به برخی از دلایلی که باعث می‌شود افراد درباره پیامدهای آینده هوش مصنوعی احتیاط کنند.

آیا هوش مصنوعی مرزهای اخلاق را زیر پا می‌گذارد؟

واژه "هوش مصنوعی" به معنای "هوش طراحی‌شده توسط انسان" است. انسان‌ها کامپیوترها و برنامه‌ها را توسعه داده‌اند، اما تصور کنید زمانی که ربات هوش مصنوعی بتواند به‌طور مستقل وظایف خود را انجام دهد، چه اتفاقی خواهد افتاد؟ این فکر می‌تواند واقعاً هیجان‌انگیز و درعین‌حال ترسناک باشد.

وقتی به گذشته نگاه کنیم، شگفت‌زده می‌شویم چرا که انسان‌ها از مدت‌ها قبل، حتی پیش از آنکه ربات‌ها وجود داشته باشند، از آن‌ها هراس داشتند. برای مثال، جیسون، رهبر آرگونات‌ها، باید با تالوس، ربات برنزی‌ای که توسط خدای آهنگری، هفائستوس ساخته شده بود، مبارزه می‌کرد. همچنین در تعدادی از افسانه‌های مربوط به گولم، مخلوق ربی لوو از کنترل خارج می‌شود و این غول گلی با زحمت فراوان متوقف می‌شود. بدون شک، در این داستان‌ها بخش‌های زیادی از "مبارزه با ربات" وجود دارد که نمی‌توان نادیده گرفت.

اما موضوع کلاسیک و بسیار محبوب «ماشین‌ها (یا هوش مصنوعی) در مقابل انسان‌ها» در قرن بیستم شکل گرفت. در سال 1920، نویسنده چک، کارل چاپک، نمایشنامه‌ای به نام «R.U.R.» نوشت. در داستان این اثر، انسان‌های مصنوعی که او برای آن‌ها واژه «ربات» را ابداع کرد، قدرت را بر زمین به دست می‌گیرند و انسان‌ها را نابود می‌کنند.

خطر هوش مصنوعی چیست؟

وقتی "چت‌جی‌پی‌تی" معرفی شد که بسیاری هنوز نمی‌دانستند دقیقاً چه کاربردی دارد. این فناوری به عنوان یکی از دستاوردهای هوش مصنوعی معرفی شد، اما قابلیت‌های واقعی آن چه بودند؟ من در نخستین ترم دانشگاه با چت‌جی‌پی‌تی آشنا شدم و کنجکاو شدم که آن را امتحان کنم. وقتی عملکرد آن را دیدم، کاملاً شگفت‌زده شدم. این برنامه می‌توانست دستورالعمل‌های پیچیده را با دقت بالایی درک و اجرا کند. جذابیت این فناوری من را به آزمایش‌های مداوم واداشت. در آن زمان، درس معادلات دیفرانسیل را می‌خواندم و تصمیم گرفتم ببینم آیا این ابزار می‌تواند مسائل پیچیده ریاضی را حل کند یا نه. پاسخ‌ها همگی دقیق و بی‌نقص بودند.

با این حال، بحث‌هایی درباره چت‌جی‌پی‌تی و سایر سیستم‌های هوش مصنوعی وجود دارد. بسیاری از کاربران شروع به زیر سوال بردن صحت پاسخ‌های آن، به‌ویژه در حوزه‌هایی مانند ریاضیات و تاریخ، کردند. خود من هم به مرور متوجه شدم که اطلاعات ارائه‌شده توسط این ابزار همیشه قابل اعتماد نیستند. تحقیقات نشان داد که اگرچه سرعت و کاربرد هوش مصنوعی بسیار قابل‌توجه است، اما گاهی اوقات اطلاعاتی که ارائه می‌دهد می‌تواند گمراه‌کننده یا حتی اشتباه باشد. این موضوع می‌تواند برای کاربرانی مثل من، که دانشجوی علوم کامپیوتر هستم، هم جالب و هم آرامش‌بخش باشد؛ چراکه هنوز خطاها و محدودیت‌های هوش مصنوعی نشان‌دهنده اهمیت تفکر و دانش انسانی است. دیدن این خطاها و اشتباهات تفاوت ما انسان‌ها و هوش مصنوعی از نظر فهم و ادراک را نشان می‌دهد.

1avbHJGoWxyKtLIiQuJnEcAebDsm5kuy2sTUXLpW.jpg

در حال حاضر، بسیاری از دانشجویان ممکن است نگران آینده شغلی خود باشند زیرا شرکت‌ها می‌توانند به راحتی ما را با هوش مصنوعی جایگزین کنند و نیازی به پرداخت حقوق بیشتر به کارکنان نداشته باشند. مهندسین نرم‌افزار و دانشجویان رشته علوم کامپیوتر ممکن است در سال‌های آینده با مشکلات بزرگی مواجه شوند اگر این فناوری به طور چشمگیری پیشرفت کند. یکی دیگر از جنبه‌های ترسناک هوش مصنوعی، توانایی آن در سازگاری با هر شرایطی است است. هوش مصنوعی قادر است تقریباً به طور آنی به اشتباهات واکنش نشان دهد و آن‌ها را اصلاح کند. این سیستم‌ها مانند مغز انسان یاد می‌گیرند، اما در زمانی بسیار کوتاه‌تر.

امیدوارم بعد از خواندن این مطلب بیش از حد نگران نشده باشید، اما هوش مصنوعی قطعاً موضوعی است که باید هنگام انتخاب رشته شغلی به آن توجه کنید. همچنین خوب است که در این زمینه به افراد آموزش داده شود زیرا بعضی‌ها فکر می‌کنند هوش مصنوعی قرار است زمین را تصرف کند یا چیزی شبیه به این.

احتمالاً اشتباه است که فقط به دلیل ترسناک بودن از هوش مصنوعی بترسیم. به یاد می‌آورم که فناوری‌های جدید معمولاً در ابتدا مردم را وحشت‌زده می‌کنند، و امیدوارم ترس ما واکنشی در برابر فناوری‌های جدید باشد. قطعاً بهتر است که به پتانسیل هوش مصنوعی برای انجام کارهای مثبت توجه کنیم، همان‌طور که اخیراً اعلام شد که دانشمندان با کمک هوش مصنوعی موفق به کشف آنتی‌بیوتیکی شده‌اند که می‌تواند یک سوپر باکتری کشنده را از بین ببرد.

آیا ترس از آینده هوش مصنوعی درست است؟

اما هیچکدام از این دلایل آرام‌بخش نمی‌توانند ترس ما را از بین ببرند. زیرا تنها مردم عادی مثل من نیستند که از هوش مصنوعی می‌ترسند، بلکه کسانی که این فناوری را بهتر می‌شناسند، بیشتر از همه نگرانند. به صحبت‌های جفری هینتون، که به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود، توجه کنید. او که الگوریتم‌هایی را توسعه داده که به ماشین‌ها اجازه می‌دهد یاد بگیرند، اوایل این ماه از سمت خود در گوگل استعفا داد و گفت که در دیدگاهش نسبت به توانایی هوش مصنوعی برای پیشی گرفتن از انسان‌ها «تغییر ناگهانی» داشته است و از سهم خود در ایجاد آن پشیمان است. او گفته است: "گاهی فکر می‌کنم انگار بیگانگان فرود آمده‌اند و مردم متوجه نشده‌اند چون خیلی خوب انگلیسی صحبت می‌کنند." در ماه مارس، بیش از ۱۰۰۰ نفر از بزرگان این حوزه، از جمله ایلان ماسک و کسانی که پشت ChatGPT هستند، نامه‌ای سرگشاده منتشر کردند و خواستار توقف شش ماهه در توسعه سیستم‌های «غول‌پیکر» هوش مصنوعی شدند تا خطرات آن به درستی درک شود.

آنچه که این افراد از آن می‌ترسند، جهش بزرگی در فناوری است که در آن هوش مصنوعی به هوش مصنوعی عمومی (AGI) تبدیل می‌شود؛ یک هوش عمومی و بسیار قدرتمند که دیگر به دستورات خاص انسان‌ها وابسته نخواهد بود و شروع به توسعه اهداف و اراده خود می‌کند. زمانی این موضوع به عنوان یک احتمال دور از ذهن در نظر گرفته می‌شد، اما حالا بسیاری از کارشناسان بر این باورند که این تنها مسئله زمان است و با توجه به سرعت یادگیری این سیستم‌ها، ممکن است این زمان زودتر از آنچه که تصور می‌کنیم فرا برسد.

البته هوش مصنوعی هم‌اکنون تهدیداتی را ایجاد می‌کند، مثل از دست رفتن مشاغل، با اعلامیه هفته گذشته مبنی بر کاهش ۵۵ هزار شغل در BT که قطعاً نشانه‌ای از در خطر بودن برخی مشاغل در آینده است، یا در آموزش، با توانایی ChatGPT برای نوشتن مقالات دانشجویی در چند ثانیه و GPT-4 که در آزمون وکالت ایالات متحده در جمع ۱۰٪ برتر قرار گرفت. اما در سناریوی AGI، خطرات جدی‌تر می‌شوند، حتی اگر تهدیدی برای بقای انسان‌ها نباشند.

از طرفی برخی از کارشناسان بر این باورند که این ترس تا حد زیادی درست نیست. هوش‌های مصنوعی باید توسط شرکت‌ها توسعه یابند و این شرکت‌ها فرآیندهایی را در نظر می‌گیرند که کدها باید آن‌ها را دنبال کنند پس می‌توانند آن‌ها را تحت کنترل خود داشته باشند. اگر چیزی وجود داشته باشد که باید از این مطلب یاد بگیرید، این است که آینده هوش مصنوعی بسیار جالب است و ما باید بیشتر در مورد آن بیاموزیم.

ciA7Iifx8bnrOQKmR1Jh9PVmRDFFgTOuFT8LgNYb.jpg

حالا بیایید از سمت دیگری به این موضوع نگاه کنیم و از خودمان بپرسیم چرا در واقع هوش مصنوعی باید با انسان‌ها مبارزه کند؟ چون وجود آن در دنیای اطلاعات است، نیاز به "فضای زیستی" ندارد. نیازهای هوش مصنوعی و انسان‌ها به ندرت هم‌پوشانی دارند. اما حتی اگر مشکلی در مورد رقابت برای انرژی و منابع وجود داشته باشد، هوش مصنوعی می‌تواند این منابع را خارج از کره زمین پیدا کند. برای ربات‌ها خیلی راحت‌تر است که به فضا بروند و دیگر اجسام آسمانی را کشف کنند تا انسان‌ها. گسترش فضایی به نظر می‌رسد که منطقی‌تر و امیدوارکننده‌تر از جنگ در دانه‌ای ریز از شن در لبه یکی از کهکشان‌های متعدد جهان باشد.

نتیجه گیری

احتمالاً بی‌مبالغه نمی‌توان گفت که ترس‌هایی که ما به توسعه هوش مصنوعی و ربات‌ها نسبت می‌دهیم عمدتاً مرتبط با خواسته‌ها و ویژگی‌های روان‌شناختی انسان است. ما خواسته‌ها و انگیزه‌های خود را به هوش مصنوعی نسبت می‌دهیم. از همین‌جا است که ایده‌هایی مطرح می‌شود مبنی بر اینکه ماشین‌های هوشمند ممکن است به طور مستقل عمل کرده و به عنوان مهاجم عمل کنند.

به همین دلیل است که یک درگیری بین انسان‌ها و هوش مصنوعی به نظر بسیار غیرمحتمل می‌رسد. واضح است که اگر هوش مصنوعی خودآگاهی پیدا کند، از نظر روان‌شناختی به طور بنیادی از انسان‌ها متفاوت خواهد بود. این بدان معناست که خواسته‌ها و آرزوهای آن در سطحی متفاوت قرار خواهد گرفت شخصاً من نگران هوش مصنوعی در طول عمر خودم نخواهم بود و هیچ‌کسی که من می‌شناسم هم در این باره نگرانی ندارد، چون این آخرالزمان روبات‌ها مانند فیلم iRobot اصلاً اتفاق نخواهد افتاد..

 

 

 

0 دیدگاه
برای قرار دادن دیدگاه وارد شوید

معمار آینده در دنیای تکنولوژی من، در مسیر بی‌پایان تکنولوژی و نوآوری قدم می‌زنم.