اگر بخواهم کاملاً صادق باشم، هیچوقت آدم دینداری نبودهام. زمانی که ریچارد داوکینز – مشهورترین آتئیست جهان – استدلال میکرد باور به خدا توهمی «زیانبار» است، کاملاً با او همعقیده بودم. اما شاید بد نباشد در دیدگاهم تجدیدنظر کنم؛ چرا که اتفاقات اخیر باعث شده در قضاوتهای داوکینز دربارهٔ زندگی، جهان و همه چیز تردید کنم.
ماجرا از این قرار است که این زیستشناس تکاملی اخیراً علناً ادعا کرده که هوش مصنوعی ممکن است دارای «آگاهی» باشد! داوکینز در یادداشتی نوشت چطور متن رمانی را که در دست نگارش داشت، به چتبات کلود (محصول شرکت آنتروپیک) داده است. او مینویسد: «چند ثانیه طول کشید تا متن را بخواند و سپس چنان درک ظریف، حساس و هوشمندانهای از خود نشان داد که بیاختیار فریاد زدم: شاید خودت ندانی آگاهی، اما لعنتی تو واقعاً آگاهی داری!»
این اظهارنظر نشاندهندهٔ سوءتفاهمی چنان عمیق دربارهٔ مدلهای زبانی بزرگ است که انسان بیاختیار میخواهد فریاد بزند: «اصلاً و ابداً اینطور نیست!»
اما صبر کنید، داستان به همینجا ختم نمیشود.
داوکینز به این نتیجه رسید که «باید هزاران کلود مختلف وجود داشته باشد» و نام چتبات خود را «کلودیا» گذاشت؛ نامی که به گفتهٔ او، چتبات هم از آن بسیار خرسند شد! او سپس بخشهای طولانی از گفتگوهای ملالآور خود با کلودیا را منتشر کرد و از میزان هوشمندی آن شگفتزده شد. او میپرسد: «آیا موجودی که قادر به خلق چنین اندیشهای است، واقعاً میتواند فاقد آگاهی باشد؟»
به نظر میرسد داوکینز از یک آتئیست به یک «هوشمصنوعیباور» تغییر گرایش داده است! شاید او هوش مصنوعی را خودِ خدا نداند، اما قطعاً آن را موجودی شبهخدا میبیند. البته داوکینز در این تصور که هوش مصنوعی به نوعی «زنده» است تنها نیست؛ در نظرسنجی سال گذشته، از هر سه نفر یک نفر مدعی بود در مقطعی باور داشته چتبات هوش مصنوعیاش دارای درک یا آگاهی است. اما شهرت داوکینز به عنوان فردی شکاک و سختگیر باعث شده یادداشت او شدیداً زیر ذرهبین کارشناسان قرار گیرد.
بسیاری از متخصصان از اینکه چنین منتقد سختگیری باور کرده هوش مصنوعی زنده است، شوکه شدهاند. گاری مارکوس، روانشناس و دانشمند علوم شناختی آمریکایی، به گاردین گفت خواندن مقالهٔ «سطحی و خالی از نگاه شکاکانهٔ» داوکینز «دردناک» بوده است: «هیچ دلیلی وجود ندارد که فکر کنیم کلود کوچکترین احساسی دارد.»
شاید فریب خوردن شخصی مانند داوکینز در برابر بازاریابی و شبیهسازیهای هوش مصنوعی عجیب باشد، اما کاملاً غیرمنتظره نیست. در واقع، سال ۲۰۲۰ تمنیت گرو، دانشمند علوم رایانه، دقیقاً چنین سناریویی را پیشبینی کرده بود. گرو در آن زمان مدیر مشترک تیم هوش مصنوعی اخلاقی در گوگل بود، اما پس از نگارش مقالهای با عنوان «دربارهٔ خطرات طوطیهای تصادفی: آیا مدلهای زبانی میتوانند بیش از حد بزرگ شوند؟» که در آن خطرات مدلهای زبانی بزرگ را تشریح میکرد، از گوگل اخراج شد.
از جمله خطراتی که او برشمرد عبارت بودند از: هزینههای زیستمحیطی این مدلها، خطر سوگیریهای نهادینهشده در آنها، و این احتمال که متنهای منسجمِ تولید شده توسط این سیستمها مردم را به اشتباه بیندازد تا تصور کنند با نوعی «ذهن» روبرو هستند؛ در حالی که آنچه میبینند چیزی جز انطباق الگوها و پیشبینی کلمات نیست.
آرتور سی کلارک، نویسندهٔ مشهور، جملهٔ مشهوری دارد: «هر فناوری به اندازهٔ کافی پیشرفته، از جادو تفکیکناپذیر است.» بله، وقتی چتباتها دچار توهم نمیشوند یا به شما پیشنهاد نمیکنند برای شام سنگ بخورید، میتوانند حس جادو را منتقل کنند و بسیار شبیه به انسان به نظر برسند. اما بیاورید به همان مفهوم «طوطیهای تصادفی» در مقالهٔ گرو بازگردیم. گرو میگوید: «طوطیوار تکرار کردن یعنی تکرار کلمات بدون فهم آنها.» این دقیقاً همان کاری است که مدلهای زبانی بزرگ انجام میدهند: «به آنها یاد داده شده بر اساس دادههایی که روی آنها آموزش دیدهاند، احتمال قرارگیری کلمات پشت سر هم را محاسبه کنند.» از آنجا که حجم عظیمی از داده به خورد این مدلها داده شده، بسیار پیچیده به نظر میرسند، اما این امر «به معنای داشتن آگاهی، درک یا چیزی شبیه به آن نیست.»
گرو پس از خروج از گوگل، «مؤسسهٔ تحقیقاتی هوش مصنوعی توزیعشده» را تأسیس کرد و به یکی از سرسختترین منتقدان ادعاهای تبلیغاتی و پوچِ مطرحشده در این صنعت تبدیل شد. او میگوید اصل ماجرا این است: صنعت هوش مصنوعی شدیداً نیازمند آن است که شما تصور کنید محصولاتشان دارای آگاهی و قدرتی مطلق هستند؛ زیرا این نوع ادبیات و بزرگنماییها به تداوم سرازیر شدن سرمایهها کمک میکند.
گرو میگوید: «من واقعاً میخواهم بر روی این نکته تمرکز کنم که چگونه ایدهٔ ابرهوش یا آگاهی توسط شرکتهای سازندهٔ این ابزارها تزریق میشود. OpenAI در ابتدا خود را مؤسسهای غیرانتفاعی معرفی کرد که قرار است ما را از دست ماشینها «نجات» دهد. Anthropic نیز خود را شرکت خیرخواه «ایمنی» هوش مصنوعی مینامد. بنابراین وقتی شما این سیستمها را موجوداتی آگاه خطاب میکنید، در واقع دارید برای این شرکتها بازاریابی رایگان میکنید.»
به گفتهٔ گرو، رسانهها نیز به پررنگ شدن این روایت شوم کمک میکنند؛ زیرا تیترهای مربوط به رباتهای قاتل و پایان جهان باعث جلب کلیک میشود. بسیاری از دانشگاهیان نیز تحت تأثیر پولهای هنگفت جاری در این صنعت، انگیزه دارند فناوری موجود را بیش از حد بزرگ جلوه دهند و دولتها هم «اسیر» این فضا شدهاند. گرو میافزاید با اینکه برخی مردم، به ویژه نسل جدید (نسل زد)، این بزرگنماییها را باور نمیکنند، اما «بخش زیادی از افکار عمومی دچار گمراهی شدهاند.»
گرو تنها کسی نیست که دربارهٔ کمپینهای گمراهکننده حول هوش مصنوعی آگاه هشدار میدهد. سورش ونکاتاسوبرمانیان، مشاور سابق کاخ سفید در حوزهٔ سیاستگذاری هوش مصنوعی و استاد علوم رایانه در دانشگاه براون نیز بارها دربارهٔ خطرات دامن زدن به ایدهٔ آگاهی هوش مصنوعی سخن گفته است.
او در گفتگو با نشریهٔ VentureBeat گفت: «این یک کمپین ترسافکنیِ سازمانیافته است. احساس میکنم هدف اصلی، ایجاد موجی علیه هوش مصنوعی دارای آگاهی است – چیزی که اصلاً وجود خارجی ندارد – تا از این طریق تمام مشکلات واقعی و ملموسِ هوش مصنوعی نادیده گرفته شود.»
ونکاتاسوبرمانیان در همان مصاحبه اشاره میکند که شرکتهای هوش مصنوعی عمداً چتباتهای خود را انسانانگاری میکنند: «ChatGPT موقع مثلاً «فکر کردن»، سه نقطهٔ کوچک نشان میدهد؛ درست مانند حالت پیامک در گوشی. کلمات را هم یکییکی تایپ میکند تا این حس را منتقل کند که فردی آن طرف خط نشسته است. این سیستم طوری طراحی شده که به نظر برسد انسانی در پشت آن حضور دارد و این رفتاری فریبکارانه است.»
با همهٔ اینها، نمیخواهم نظرات داوکینز را به کلی رد کنم یا خودم در دام جزمگرایی بیفتم. آگاهی، مقولهای پیچیده است. اگرچه هوش مصنوعی «زنده» نیست، اما شاید بتوان ادعا کرد که نمایانگر نمادی از آگاهی است.
الی آلشانتسکی، استادیار فلسفه در دانشگاه تمپل و نویسندهٔ کتاب «آزادی اندیشه در عصر هوش مصنوعی»، میگوید: «ما هنوز درک علمی و دقیقی از آگاهی نداریم تا بتوانیم بگوییم آیا حشرات، گیاهان یا حتی الکترونها دارای آگاهی هستند یا خیر (همهروانانگاران مورد آخر را کاملاً جدی میگیرند و دیوانه هم نیستند!). بنابراین وقتی داوکینز میگوید کلود به نظرش آگاه میرسد، من به او نمیگویم که اشتباه میکند.»
اما به گفتهٔ آلشانتسکی، پرسش بزرگتر این است که هوش مصنوعی چه بلایی سر آگاهیِ انسانی خودِ ما میآورد: «داوکینز رمان ناتمامش را به کلود داد و کلود به او گفت متن بسیار ظریف و هوشمندانه است. داوکینز حس کرد دوست جدیدی پیدا کرده است. اما اینکه انسانی سه روز از وقتش را صرف شنیدن تعریف و تمجید از موجودی کند که راست یا دروغ بودن حرفهایش هیچ نفعی برایش ندارد، چه تأثیری روی او میگذارد؟ وقتی روزهایمان را با ماشینهایی میگذرانیم که اصلاً برایشان مهم نیست ما به کجا میرسیم و در قبال آیندهٔ ما پاسخگو نیستند، چه بلایی سر همهٔ ما خواهد آمد؟»
دانشمندان و فیلسوفانی مانند آلشانتسکی سخت مشغول بررسی این مسئله هستند، اما فکر میکنم پاسخ کوتاه این باشد: هیچ اتفاق خوبی نمیافتد!
حال که صحبت از خوب شد، نمیدانم رمان جدید داکینز چقدر خوب از آب درآمده، اما بد نیست به بخش زیبایی از اثر قبلی او اشاره کنم. داوکینز در فصل نخست کتاب «پندار خدا» مینویسد: «برخی افراد دیدگاهی چنان گسترده و انعطافپذیر نسبت به خدا دارند که طبیعی است هر کجا را نگاه کنند، خدا را بیابند.»
او ادامه میدهد: «البته مانند هر واژهٔ دیگری، به واژهٔ «خدا» هم میتوان هر معنایی داد. اگر بخواهید بگویید «خدا همان انرژی است»، آنگاه میتوانید خدا را در یک تکه زغالسنگ هم پیدا کنید.»
گمان میکنم دربارهٔ آگاهی هم همین موضوع صادق است. اگر بخواهید بگویید «آگاهی یعنی سیستمی که قادر به ساختن جملات منسجم است»، آنگاه میتوانید آگاهی را در یک چتبات چاپلوس و دستبوس هم پیدا کنید!
آروا (ارویٰ) مهداوی، نویسنده و ستوننویس فلسطینیتبار بریتانیایی در بخش آمریکای روزنامهٔ گاردین است.