دیجی لند | اخبار دنیای دیجیتال اخبار دیجیتال | اخبار فن آوری

هوش مصنوعی چه خطراتی برای ما خواهد داشت

هوش مصنوعی چه خطراتی برای ما خواهد داشت

خبری پیرامون موبایل برای علاقه مندان به این ابزار هوشمند:

با گسترش هوش‌ مصنوعی، این سؤال پیش می‌آید که این تکنولوژی چه خطراتی برای انسان‌ دارد؛ یک کارشناس عرصه‌ی هوش مصنوعی به این سؤال جواب می‌دهد.

آرِند هینتز، استادیار زیست‌شناسی یکپارچه و علوم رایانه و مهندس از دانشگاه ایالتی میشیگان، به نوعی یک پیشرفت‌دهنده‌ی هوش مصنوعی به آسیب‌شناسی این ماشین‌ها می‌پردازد و به ترس‌هایی که در باب آن‌ها می باشد، جواب می‌دهد:

مقاله‌های مرتبط:

به نوعی یک محقق عرصه‌ی هوش مصنوعی گاهی با این فرضیه روبه‌رو می‌شوم که اکثر مردم ازآنچه امکان دارد هوش مصنوعی به آن مبدل شود، می ترسند. ممکن است این مسئله تعجب‌آور نباشد؛ این ترس به دلیل نگاهی است که تاریخ و صنعت سینما به ما داده‌اند؛ نگاهی که به ما ترس از سلطه‌ی سایبرنتیک را القا می‌کند و همان‌طور که در فیلم ماتریکس دیده‌اید، به ما اخطار می‌دهد که نیروهایی خواهند آمد و ما را به نوعی باتری‌های انسانی در محفظه‌هایی زندانی می‌کنند. برای من که به نوعی پیشرفت‌دهنده‌ی هوش مصنوعی از نمونه‌های رایانه ای برای تکامل آن سود میبرم، فکر کردن به این مسئله که در آتی این موجودات بی‌گناه مجازی به هیولاهایی مبدل خواهند شد، ساده نیست. آیا امکان دارد من به نوعی ویرانگر دنیا شناخته شوم؛ همان‌طور که اوپِن‌هایمِر بعد از رهبری کردن تولید اولین بمب اتمی، به سرزنش خود پرداخت؟

با این کار من مشهور خواهم شد با اینحال ممکن است حق با منتقدین باشد. ممکن است من نباید از این سؤال دوردستی‌ کنم که به نوعی یک کارشناس هوش مصنوعی، کدام جنبه از آن برای من هراس‌انگیز است؟

 ترس از اتفاقات پیش‌بینی نشده

رایانه اچ‌اِی‌اِل ۹۰۰۰ که آرتور سی.کلارک، نویسنده‌ی جریان علمی تخیلی، در رؤیای خود داشت و اِستَنلی کوبریک، کارگردان فیلم ۲۰۰۱: یک ادیسه‌ی فضایی، به زندگی ما آورد، مثال خوبی است از سیستمی که به دلیل پیامدهای ناخواسته، شکست خورد.

در اکثر سیستم‌های پیچیده مانند کشتی تایتانیک، شاتل فضایی ناسا، نیروگاه هسته‌ای چرنوبیل مهندسان لایه‌های بسیاری از اجزای مختلف را با یکدیگر ترکیب می‌کنند. طراحان امکان دارد به‌خوبی این مسئله را بدانند که هر جزء به‌تنهایی به چه نحو کار می‌کند؛ با اینحال گاهی از این مسئله که قطعات در رابطه با یکدیگر به چه نحو کار می‌کنند، آگاهی کافی ندارند؛ ماحصل این آگاهی کم، سیستمی است که هرگز به روش تمام و کمال درک نمی‌شود و امکان دارد در راه‌های پیش‌بینی‌نشده شکست بخورد؛ در هر فاجعه‌ای مانند غرق شدن یک کشتی، انفجار دو شاتل فضایی و گسترش آلودگی‌های رادیواکتیو در اروپا و آسیا، اشتباهات کوچک در هم آمیخته می‌شوند و یک فاجعه را بوجود می‌آورند.

در بررسی ها هوش مصنوعی نیز امکان دارد چنین اشتباهاتی رخ دهد. ما به تازه ترین دستاوردهای علوم شناختی و ادراکی نگاهی می‌اندازیم، آن‌ها را به الگوریتم مبدل می‌کنیم و به سیستم‌های موجود می‌افزاییم؛ در این راه ما مهندسان تلاش می‌کنیم بدون آنکه در قدم اول هوش یا شناخت را درک کنیم، هوش مصنوعی را بسازیم.

سیستم‌هایی مانند واتسون آی‌بی‌ام و آلفای گوگل به شبکه‌های عصبی مصنوعی و حجم عظیمی از توان پردازشی تجهیز شده‌اند و شاهکارهای چشمگیری انجام داده‌اند؛ با اینحال اگر این ماشین‌ها اشتباهی مرتکب شوند دیگر نمی‌توانند استاد بازی گو را شکست دهند یا در بازی جِپِردی شکست می‌خورند. عواقب این اشتباهات دنیا را تغییر نمی‌دهد؛ درواقع بدترین اتفاقی که امکان دارد رخ دهد این است که فردی مقداری از پولی را که روی موفقیت هوش مصنوعی شرط‌بندی کرده است، از دست بدهد؛ با اینحال چون دیزاین هوش مصنوعی در حال پیچیده‌تر شدن است و پردازشگر‌های رایانه نیز سریع‌تر شده‌اند، مهارت این سیستم‌ها گسترش می‌یابد. این امر دلیل می‌شود حتی اگر اخطار پیامدهای ناخواسته گسترش یابد، مسئولیت‌های بیشتری به این سیستم‌ها بدهیم؛ و ازآنجایی‌که انسان جایزالخطا است، به ذهن خطور میکند که به‌ وجود آوردن سیستمی بطور کلیً ایمن غیر ممکن باشد.

ترس از سوء‌استفاده

handshake with robots

ازنظر من عواقب ناخواسته در گونه‌های مختلف هوش مصنوعی که با بهره برداری از راهی بانام نورو اوولوشن درحال‌پیشرفت‌ی آن‌ها هستم، زیاد نگران‌کننده نیست. من محیطی مجازی ایجاد می‌کنم و موجودات دیجیتال را با ذهنی که برای انجام وظایف پیچیده آموزش می‌بیند، تکامل می‌دهم. عملکرد این مخلوقات مورد ارزیابی قرار می‌گیرد و آن‌هایی که بهترین عملکرد را دارند برای تولید مجدد انتخاب می‌شوند و نسل بعدی هوش مصنوعی را می‌سازند؛ بعد از تولید چندین نسل، این مخلوقات ماشینی تکامل پیدا می‌کنند و خصوصیات ادراکی کسب می‌کنند.

همین‌الان ما در حال برداشتن قدم‌هایی کوچک برای تکامل این ماشین‌ها هستیم؛ تکاملی که دلیل می‌شود هوش مصنوعی بتواند وظایف ناوبری ساده را انجام دهد، تصمیماتی ساده بگیرد یا چند بایتی را به خاطر بیاورد؛ با اینحال در آینده ای زود ما ماشین‌هایی تکامل خواهیم داد که قادر اند وظایف پیچیده‌تری را اجرا کنند و فهم عمومی بسیار بهتری داشته باشند. درنهایت ما امیدواریم که بتوانیم ماشینی هم‌سطح با هوش انسانی ایجاد کنیم.

در طول این مسیر و در مسیر تکامل هوش مصنوعی، ما ارور‌ها و مشکلات را پیدا خواهیم کرد و آن‌ها را حذف می‌کنیم. در هر نسل، ماشین‌ها بهتر قادر اند ارورهای ایجادشده در نسل قبلی را برطرف کنند؛ این کار دلیل می‌شود شانس پیدا کردن پیامدهای ناخواسته در شبیه به‌سازی‌ها گسترش یابد و بتوانیم قبل از آنکه این مشکلات وارد جهان حقیقی شوند، آن‌ها را حذف کنیم.

مسئله دیگری که احتمال آن کمتر است، بهره برداری از این سیر تکاملی برای تأثیر گذاشتن بر اخلاق سیستم‌های هوش مصنوعی است. این روش مثل صفات اخلاقی در انسان‌ها است؛ صفاتی مانند امانت‌داری و نوع‌دوستی که درنتیجه‌ی سیرتکاملی انسان‌ها بوجود آمده‌اند و به نوعی فاکتورهایی برای ادامه‌ی زندگی مقرر کرده می‌شوند.

ما می‌توانیم محیط‌های خود را به‌صورت مجازی برای ایجاد بهتری تکاملی در ماشین‌ها به‌گونه‌ای تنظیم کنیم تا صفاتی مانند محبت، صداقت و یکدلی را به آن‌ها نشان دهیم؛ این امکان دارد راهی باشد تا خدمتکارانی فرمانپذیرتر یا همراهانی قابل‌ اعتماد پیشرفت دهیم و ربات‌های قاتل و بی‌رحم کمتری بوجود آوریم.

 باوجوداینکه نورو اوولوشن این امکان را دارد که احتمال به‌وجود آمدن پیامدهای ناخواسته را کاهش دهد؛ با اینحال نمی‌تواند مانع سوءاستفاده از هوش مصنوعی شود؛ بااین‌وجود این مسئله یک سخت علمی نیست و مشکلی اخلاقی است؛ به نوعی یک دانشمند، من متعهد هستم تا به‌خوبی یافته‌های حاصل از تست‌هایم را گزارش دهم؛ چه این نتایج موردپسند من باشند، چه نباشند. دوست‌ داشتن یا موافقت برای من مورد استقبال نیست، مهم‌ این است که بتوانیم یافته‌هایمان را بازگو کنیم.

ترس از اولویت‌های اشتباه اجتماعی

artificial inteligence

دانشمند بودن من را از انسان بودن مبرا نمی‌کند و من باید در پاره‌ای از موارد با آرزوها و ترس‌هایم از نو رابطه برقرار کنم. به نوعی موجودی اخلاقی و سیاسی، من باید پیامدهای ممکن کار خود و تأثیرات ممکن آن بر جامعه را در نظر بگیرم. ما به نوعی جامعه‌ی دانش پژوهان هنوز به یک فرضیه‌ی واضح در باب هوش‌ مصنوعی و چیزی که به آن مبدل می‌شود نرسیده‌ایم؛ یکی از دلیل‌های این مسئله این است که ما هنوز در باب توانایی‌های هوش مصنوعی اطلاعی نداریم؛ با اینحال نیاز داریم که در باب نتایج مطلوب حاصل از هوش مصنوعی پیشرفته، تصمیم بگیریم.

یکی از جاهای بزرگی که تحت تأثیر هوش مصنوعی قرار دارد، فعالیت‌های انسانی است؛ ربات‌ها هم اینک کارهای فیزیکی مانند جوش‌کاری قسمت‌های مختلف خودروها را انجام می‌دهند. در آينده‌ای نزدیک امکان دارد آن‌ها فعالیت‌های ادراکی و شناختی را که تا به امروز تنها به انسان‌ها اختصاص داشته است، انجام دهند؛ خودروهای خودران قادر اند جانشین راننده‌های تاکسی شوند؛ هواپیماهای خودپرواز قادر اند جانشین خلبان‌ها شوند. به‌جای کمک‌های گروه پزشکی در اورژانس، بیماران قادر اند به وسیله یک سیستم کارشناس مورد معاینه قرار گیرند و با دسترسی فوری به پایگاه معلومات پزشکی که تا به آن روز جمع‌آوری شده است، نوع بیماری آن‌ها تشخیص داده شود و جراحی‌های به‌وسیله‌ی رباتی خستگی‌ناپذیر و با دستانی بطور کلی بدون لرزش انجام شود.

مشاوره‌ی حقوقی می‌تواند از پایگاه اطلاعات‌های حقوقی به دست آید؛ مشاوره‌ی مالی و سرمایه‌گذاری نیز می‌تواند از سیستم پیش‌بینی مارکت به دست آید. ممکن است روزی فرارسد که تمام شغل‌های انسانی به‌وسیله‌ی ماشین‌ها انجام شوند؛ حتی کار پیشرفت‌ی هوش مصنوعی که من به آن سرگرم هستم به‌وسیله‌ی تعداد فراوانی از ماشین‌های خستگی‌ناپذیر در بررسی ها هوش مصنوعی، سریع‌تر انجام شود.

در جامعه‌ی حال حاضر ما، اتوماسیون انسان‌ها را از کار برکنار کرده است و صاحبان ماشین‌ها را پولدارتر و دیگر مردم را فقیرتر کرده است. این سخت یک مسئله‌ی علمی نیست و می بایست از نقطه‌نظر سیاسی و اجتماعی و اقتصادی حل شود. بررسی ها و سیاست‌های یک پیشرفت‌دهنده نمی‌تواند این موارد را تغییر دهد؛ با اینحال با هم کاری همه‌، می‌توانیم شرایطی ایجاد کنیم که در آن هوش مصنوعی به‌جای ایجاد فاصله بین مردم پولدار و ضعیف، برای همه سودمند باشد.

ترس از سناریو‌های کابوس مانند

terminator

با مجسم کردن اچ‌اِی‌اِل ۹۰۰۰، ترمیناتور یا هر جریان تخیلی دیگری که هوش‌ مصنوعی فرابشری دارند، این سؤال بوجود می‌آید که اگر هوش‌ مصنوعی به پیشرفت خود ادامه دهد و به سطحی فراتر از هوش انسانی برسد، آیا این سیستم‌های فوق‌العاده هوشمند یا حداقل یکی از آن‌ها، به این نتیجه می‌رسد که دیگر به انسان‌ها نیازی نیست؟ ما انسان‌ها به چه نحو وجود خودمان را در نظر این هوش‌های فرابشری که کارهایی فراتر از خصوصیات انسان انجام می‌دهند، توجیه می‌کنیم؟ آیا ما می‌توانیم مانع از انقراض خود به‌وسیله‌ی ماشین‌هایی شویم که زمانی برای کمک به ما ایجاد شده‌اند؟ سؤال بنیادی در این سناریو این است: چرا باید یک هوش فرابشری انسان‌ها را زنده نگه دارد؟

من امکان دارد پیرامون‌ی خودم با این هوش‌ فرابشری گفت‌وگو کنم و به ایشان بگویم فرد خوبی هستم که امکان دارد کمک کرده باشد تا هوش‌ مصنوعی به این قسمت کار برسد. به علاوه از طرف دیگر امکان دارد که التماس کنم که هوش‌ فرابشری من را به نوعی شخصی بامحبت و دلسوز زنده نگه دارد. من می‌توانم پیرامون‌ی ارزشمند بودن تنوع با این هوش‌ فرابشری گفت‌وگو کنم و به ایشان بگویم  وجود بشریت به توجه به داشتن جهانی بسیار بزرگ، امکان دارد اصلا اهمیتی نداشته باشد؛ با اینحال من به نمایندگی از تمام بشریت صحبت نمی‌کنم و آوردن استدلالی قانع‌کننده برای ادامه‌ی حیات تمام انسان‌ها کار سختی است.

وقتی که با نگاهی دقیق‌تر به خودمان می‌نگریم، اشتباهات بسیاری می‌بینم: ما انسان‌ها از هم متنفریم، با یکدیگر می‌جنگیم، دانش، غذا یا کمک‌های پزشکی را به‌طور عادلانه توزیع نمی‌کنیم و سیاره‌ی خود را آلوده می‌کنیم. موارد خوب بسیاری نیز در دنیا می باشد؛ با اینحال تمام بدی‌های ما دلیل ضعف در گفتمان و درخواست ادامه‌ی حیات از هوش‌ فرابشری می‌شود.

باید در اینجا این خبر خوب را به شما بگوییم که، هم اینک احتیاجی نداریم که وجود خودمان را برای این ماشین‌ها توجیه کنیم. ما مدت‌زمانی بین ۵۰ تا ۲۵۰ سال وقت داریم که با این وجود این فرصت زمانی به‌سرعت پیشرفت‌ی هوش‌ مصنوعی نیز بستگی دارد و در این مدت می‌توانیم به نوعی گونه‌ای از حیات گرد هم بیاییم و برای این سؤال که چرا هوش‌ فرابشری نباید ما را از صحنه‌ی حیات پاک کند، جوابی قانع‌کننده پیدا کنیم.

هر یک از ما چه به‌صورت انفرادی و چه در شکل جامعه، باید خود را برای این سناریوهای کابوس مانند تکمیل کنیم و با بهره برداری از وقتی که برایمان باقی‌ مانده است دلیلی برای ادامه‌ی حیاتمان پیدا کنیم؛ با اینحال راه دیگر این است که به این باور برسیم که این موضوع هرگز نخواهد افتاد تا دیگر نگران این مسئله نباشیم.

با اینحال بدون توجه به تهدیدات فیزیکی‌ که هوش‌ فرابشری امکان دارد داشته باشد، این ماشین‌ها قادر اند تهدیدهایی سیاسی و اقتصادی‌ برای ما باشند. اگر ما راهی برای توزیع ثروت بین تمام انسان‌ها پیدا نکنیم، نظامی سرمایه‌داری پدید می‌آوریم که در آن هوش‌ مصنوعی تنها در خدمت افرادی است که تمام ابزارهای تولید را  در دست دارند.

امیدواریم این نوشته پیرامون موبایل برای شما جالب بوده باشد.

منبع خبر