آخرالزمان هوش مصنوعی | تجارت فردا


وقتی به آخرالزمان قریب‌الوقوع هوش مصنوعی فکر می‌کنید چه چیزی به ذهن شما خطور می‌کند؟ اگر به کلیشه‌های فیلم‌های علمی-تخیلی علاقه ندارید، ممکن است تصور کنید که روبات‌های قاتل (با یا بدون لهجه‌های غلیظ) برای پایان دادن به کار و زندگی سازندگان متعصب خود قیام کرده‌اند. یا شاید مثل ماتریکس، ماشین‌های ترسناکی را تصور کنید که انرژی را از بدن ما می‌مکند، زیرا حواس ما را با واقعیت شبیه‌سازی‌شده منحرف می‌کنند.



برای یووال نوح هراری [Yuval Noah Harari]، که در دهه گذشته زمان زیادی را صرف نگرانی در مورد هوش مصنوعی کرده است، این تهدید کمتر خیال‌انگیز و بیشتر موذیانه است. او در کتاب جدید و جذاب خود «نکسوس» [Nexus: A Brief History of Information Networks from the Stone Age to AI] می‌نویسد: «برای دستکاری انسان، نیازی به اتصال فیزیکی مغز به رایانه نیست. هزاران سال است که روشنفکران، شاعران، سیاستمداران و... از زبان برای دستکاری و تغییر شکل جامعه استفاده کرده‌اند. اکنون کامپیوترها در حال یادگیری نحوه انجام آن هستند. آنها نیازی به ارسال روبات‌های قاتل برای شلیک به ما نخواهند داشت. آنها می‌توانند کاری کنند که انسان‌ها خودشان ماشه را بکشند.»

یووال نوح هراری که به خاطر کتاب‌های پرفروشش «انسان خردمند» و «انسان خداگونه» شهرت دارد، با اثر بلندپروازانه دیگری که کل تاریخ بشر را در بر می‌گیرد، بازگشته است. «نکسوس: تاریخچه مختصر شبکه‌های اطلاعاتی از عصر حجر تا هوش مصنوعی» که کمتر از یک ماه قبل انتشارات رندوم هاوس آن را به بازار کتاب فرستاده است، مانند بقیه کتاب‌های نویسنده مفصل است و بیش از 500 صفحه دارد. در کتاب جدیدش هراری به بررسی این موضوع می‌پردازد که چگونه شبکه‌های اطلاعاتی جوامع انسانی را شکل داده‌اند و همچنان بر آینده ما تاثیر می‌گذارند. کتاب به سه بخش اصلی تقسیم می‌شود که هر بخش بر عصر متفاوتی از شبکه‌های اطلاعاتی تمرکز دارد: ماقبل تاریخ و باستان، مدرن و آینده مبتنی بر هوش مصنوعی. سبک نویسندگی خاص هراری که درآمیختن تحلیل تاریخی با بینش‌های فلسفی است، در سراسر اثر به نمایش گذاشته شده است.

در بخش اول، هراری خوانندگان را به سفری در سیستم‌های ارتباطی اولیه انسان، از نقاشی‌های غار تا توسعه نوشتار می‌برد. او استدلال می‌کند که توانایی ایجاد و به اشتراک‌گذاری اطلاعات از طریق شبکه‌ها برای ظهور تمدن بشری بسیار مهم بود. نویسنده شباهت‌های جالبی را بین سیستم‌های اطلاعاتی باستانی و سیستم‌های مدرن ترسیم می‌کند و نشان می‌دهد چگونه نیازهای اساسی انسان برای ارتباط و اشتراک دانش در طول تاریخ ثابت مانده است.

بخش دوم کتاب به بررسی انقلاب‌های اطلاعاتی می‌پردازد که دنیای مدرن را شکل دادند. هراری نقش چاپخانه، تلگراف، رادیو و اینترنت را بر جوامع بشری بررسی می‌کند. او استدلال می‌کند که این پیشرفت‌های تکنولوژیک نه‌تنها نحوه ارتباط ما را تغییر داد، بلکه ساختارهای قدرت، سیستم‌های اقتصادی و هنجارهای فرهنگی را نیز به طور اساسی تغییر داد. تجزیه‌وتحلیل او از نحوه استفاده از شبکه‌های اطلاعاتی هم برای انتشار حقیقت و هم برای تبلیغ اطلاعات نادرست و تبلیغات بسیار روشنگر است.

بخش پایانی «نکسوس» با تمرکز بر ظهور هوش مصنوعی و تاثیر بالقوه آن بر شبکه‌های اطلاعاتی به آینده می‌نگرد. هراری با اذعان به مزایای بالقوه آن و همچنین هشدار در مورد خطراتی که برای عامل انسانی و دموکراسی ایجاد می‌کند، دیدگاه متفاوتی از هوش مصنوعی ارائه می‌دهد. او پرسش‌های قابل تاملی را در مورد ماهیت آگاهی، آینده کار و پتانسیل هوش مصنوعی برای ایجاد اشکال جدید نابرابری مطرح می‌کند.

در سرتاسر کتاب، نثر هراری قابل درک و جذاب و هیجان‌انگیز است و ایده‌های پیچیده را برای مخاطب عام به صورتی قابل درک بیان می‌کند، بدون اینکه اصل مفهوم دچار خدشه شود. توانایی او در ایجاد ارتباط در بازه‌های زمانی گسترده و فرهنگ‌های متنوع، چشمگیر است و به خوانندگان دیدگاهی واقعاً جهانی در مورد تکامل شبکه‌های اطلاعاتی ارائه می‌دهد.

یکی از نقاط قوت «نکسوس» رویکرد متعادل و واقع‌بینانه هراری به پیشرفت فناوری است. درحالی‌که او دستاوردهای نبوغ انسانی را جشن می‌گیرد، در مقابل درباره خوش‌بینی فنی غیرانتقادی نیز هشدار می‌دهد. نویسنده بارها بر ماهیت دوگانه شبکه‌های اطلاعاتی به‌عنوان ابزارهایی برای رهایی و سرکوب تاکید می‌کند و از خوانندگان می‌خواهد که پیامدهای اخلاقی دنیای به‌طور فزاینده‌ به‌هم‌پیوسته ما را در نظر بگیرند.

تحلیل هراری از رابطه بین شبکه‌های اطلاعاتی و قدرت به‌ویژه قانع‌کننده است. او استدلال می‌کند که کنترل بر اطلاعات همیشه منبع اصلی قدرت بوده است؛ از کشیش‌های باستانی که از متون مقدس محافظت می‌کردند تا غول‌های فناوری مدرن که حجم زیادی از داده‌های شخصی را کنترل می‌کنند، همیشه بحث قدرت مطرح بوده است. این دیدگاه بینش‌های ارزشمندی را در مورد بحث‌های جاری در مورد حریم خصوصی، سانسور و حقوق دیجیتال ارائه می‌دهد. اما اطلاعات به طور قابل اعتمادی حقیقت را در مورد جهان بیان نمی‌کند. بیشتر اوقات، هراری تاکید می‌کند که این امر باعث ایجاد داستان‌ها، خیال‌پردازی‌ها و توهم‌های جمعی می‌شود که به تحولات فاجعه‌باری مانند نازیسم و استالینیسم منجر می‌شود. چرا انسان خردمند، با وجود تمام موفقیت‌های تکاملی‌اش، تا این حد خودویرانگر است؟ به گفته هراری، «تقصیر در ماهیت ما نیست، بلکه در شبکه‌های اطلاعاتی ماست». هراری برای تشریح اینکه چگونه اطلاعات در گذشته ما را به بیراهه کشانده است، از مثال‌های متعددی استفاده می‌کند.

یکی از به‌یادماندنی‌ترین آنها کتاب «پتک جادوگران» است که هاینریش کرامر مفتش وابسته به کلیسای کاتولیک در دهه 1480 اتریش نوشته است. این کتاب راهنمای افشاگری و کشتن جادوگران به روش‌های هذیان‌‌گونه وحشتناک است. اگر چاپخانه چند دهه قبل اختراع نمی‌شد، این کتاب راه دوری را طی نمی‌کرد و به ایده‌های آشفته کرامر اجازه نمی‌داد در سراسر اروپا گسترش یابد و جنون شکار جادوگر را برانگیزد. نکته اساسی هراری این است که انقلاب‌های اطلاعاتی می‌توانند دوره‌های شکوفایی بشر را به همراه داشته باشند، اما همیشه هزینه هم دارند. هنگامی که ما فناوری‌های جدید درخشانی را اختراع می‌کنیم که کلمات و ایده‌ها را دورتر و سریع‌تر از همیشه منتقل می‌کنند، بسیاری از اطلاعاتی که بیرون می‌آیند اشتباه یا به طور فعال خطرناک هستند. وقتی صحبت از حفظ نظم اجتماعی به میان می‌آید، شایعات و اخبار نادرست و توهمات توطئه بسیار بیشتر از اطلاعات درست و واقعی مورد توجه قرار می‌گیرند و این موضوع به حفظ نظم اجتماعی کمکی نمی‌کند. اما باز هم چیزی که در مورد انقلاب هوش مصنوعی ترسناک است، این نیست که ما غرق اطلاعات نادرست از چت‌بات‌ها می‌شویم، یا اینکه قدرت‌ها از آن برای تسلط بر تصمیمات و در نهایت زندگی خصوصی ما استفاده می‌کنند.

بر خلاف فناوری‌های قبلی مانند کتاب و رادیو، هراری می‌نویسد: «هوش مصنوعی اولین ابزاری است که به‌تنهایی قادر به تصمیم‌گیری و تولید ایده است.» ما در میانمار در سال‌های 2017-2016، شاهد بودیم الگوریتم‌های فیس‌بوک که وظیفه به حداکثر رساندن تعامل کاربران را بر عهده داشتند، با ترویج تبلیغات نفرت‌آمیز ضد روهینگیا به کشتار جمعی و پاک‌سازی قومی دامن زدند. می‌توان گفت در میانمار شاهد هشدار اولیه چیزی بودیم که احتمال وقوع آن حتی کم هم نیست. هراری هشدار می‌دهد اگر اقدام فوری انجام ندهیم، این «هوش بیگانه» رو به رشد، همان‌طور که او ترجیح می‌دهد آن را بخواند، می‌تواند فاجعه‌هایی به بار بیاورد که حتی نمی‌توانیم تصور کنیم، و این روند می‌تواند تا نابودی تمدن بشری پیش برود.

این کتاب همچنین به بررسی تاثیرات روانی و اجتماعی شبکه‌های اطلاعاتی می‌پردازد. هراری درباره این موضوع بحث می‌کند که چگونه فناوری‌های ارتباطی مختلف شناخت انسان، روابط اجتماعی و هویت‌های فرهنگی را شکل داده‌اند. مشاهدات او در مورد نقش رسانه‌های اجتماعی بر رفتار فردی و جمعی به‌ویژه برای خوانندگان معاصر جالب و آموزنده خواهد بود. درحالی‌که «نکسوس» بیشتر مباحث مربوط به موضوع فناوری را پوشش می‌دهد، برخی از خوانندگان ممکن است اعتقاد داشته باشند درباره موضوعاتی خاص کمتر از میزان لازم بحث شده است. روش اختصاری که در برخورد با برخی از موضوعات پیچیده از آن استفاده می‌شود، شاید نتیجه اجتناب‌ناپذیر دامنه بلندپروازانه کتاب باشد. علاوه بر این، کسانی که با آثار قبلی هراری آشنا هستند ممکن است ایده‌هایی را تکراری بیابند، اگرچه این ایده‌ها عموماً در پس‌زمینه‌ای جدید ارائه می‌شوند. با وجود این انتقادهای جزئی، «نکسوس» کاوشی تامل‌برانگیز و به‌موقع از جنبه‌ای حیاتی از تمدن بشری است. توانایی هراری در ترکیب بینش‌هایی از تاریخ، فلسفه و فناوری باعث می‌شود که متنی خواندنی و متقاعدکننده برای مخاطبان به ثمر بنشیند.

نتیجه‌گیری کتاب با در نظر گرفتن اینکه چگونه هوش مصنوعی می‌تواند شبکه‌های اطلاعاتی و در نتیجه جامعه انسانی را تغییر دهد، به آینده نگاه می‌کند. هراری هم احتمالات آرمان‌شهری و هم دیستوپیایی را ارائه می‌کند و در نهایت استدلال می‌کند که آینده از پیش تعیین‌شده نیست، بلکه با انتخاب‌هایی که امروز انجام می‌دهیم شکل خواهد گرفت. «نکسوس» در نهایت چیزی بسیار بیش از یک تاریخچه شبکه‌های اطلاعاتی است. این فراخوانی برای اقدام برای خوانندگان است تا درباره سیستم‌هایی که جهان ما را شکل می‌دهند به‌صورت انتقادی فکر کنند. هراری ما را به چالش می‌کشد تا نقش خود را در این شبکه‌ها در نظر بگیریم و مسئولیت توسعه آینده آنها را بپذیریم. نویسنده در نهایت تلاش می‌کند به این پرسش پاسخ دهد که «برای نجات تمدن بشری و واقعیت مشترکمان چه می‌توانیم و باید انجام دهیم؟» هراری نتیجه‌گیری می‌کند که ساده است: باید الگوریتم‌ها و هوش مصنوعی را تحت مقررات رسمی قوی قرار دهیم و بر «ساختن موسسه‌ها با سازوکارهای خوداصلاح‌کننده قوی» تمرکز کنیم. اما آیا این کار آزادی‌های انسانی را تحت‌الشعاع قرار نخواهد داد و جوامع را به سمت دیکتاتوری هدایت نخواهد کرد؟ هراری درباره این موضوع بحثی نمی‌کند. علاوه بر این منتقدان مشکل دیگری را در ماهیت بحث هراری مشاهده می‌کنند. به باور آنها، آنچه در قلب «نکسوس» و در نتیجه در ذهن هراری وجود دارد -اگرچه به آن اشاره‌ای نمی‌کند-، ترس از هوش مصنوعی است.



این موضوعی تازه نیست؛ هراری پنج سال پیش، در کتاب «21 درس برای قرن 21»، پیش‌بینی کرد که هوش مصنوعی شروع به تولید بیکاری گسترده خواهد کرد. تاکنون، نشانه‌های کمی از آن وجود دارد. همین ترس تا حدی شدید و بی‌منطقی که از طریق داده‌ها هم پشتیبانی نمی‌شود به عقیده منتقدان بر کل «نکسوس» سایه انداخته است و به همین دلیل بسیاری راه‌حل‌های در دسترس برای مشکلات ایجادشده از طریق هوش مصنوعی در کتاب مطرح نمی‌شود. این انتقاد البته پیش‌رونده‌تر از این هم هست. دسته‌ای از منتقدان اعتقاد دارند، هراری درباره موضوعی وارد بحث جدی شده است که اطلاعات و دانش کافی در مورد آن ندارد. به عنوان مثال، نویسنده تاکید کمی بر انواع مختلف هوش مصنوعی و تمایز میان آنها بر اساس عملکرد دارد، یا اینکه در جایی از کتاب به این موضوع اشاره نشده است که در حال حاضر هوش مصنوعی بیشتر برای تقویت سیستم‌های موجود و نه جایگزینی آنها استفاده می‌شود.

«نکسوس: تاریخچه مختصر شبکه‌های اطلاعاتی از عصر حجر تا هوش مصنوعی» افزوده‌ای ارزشمند به مجموعه کارهای یووال نوح هراری است. به یاد داشته باشید کتاب «انسان خردمند» در سال 2011 و قبل از ظهور ترامپ، کووید و چت جی‌پی‌تی نوشته شد. جهان در 13 سال پس از آن به طرز شگفت‌انگیزی تغییر کرده است و «نکسوس» به نظر می‌رسد یک به‌روزرسانی سریع برای توضیح این تغییرات باشد. علاوه بر این هراری در «انسان خداگونه تاریخ مختصر آینده» اشتباه بزرگی مرتکب شد و با اطمینان اعلام کرد که دیگر هرگز یک بیماری همه‌گیر جهانی نخواهیم داشت. این در سال 2018 بود، کمتر از دو سال قبل از اینکه به طرز دردناکی اشتباه بودن آن اثبات شود. این فقط یک بار در متن بیان شد، اما این یک عالم کوچک برای نشان دادن خطاپذیری خود هراری بود. «نکسوس» را می‌توان به‌نوعی تلاش برای تصحیح این موضوع و پیش‌بینی دوباره آینده انسانی هم تلقی کرد. این کتاب تلاش دارد مروری جامع از چگونگی تکامل شبکه‌های اطلاعاتی و ادامه شکل دادن به تمدن بشری ارائه دهد. اگرچه ممکن است همه پاسخ‌ها را ارائه نکند، اما مطمئناً پرسش‌های درستی را مطرح می‌کند و خوانندگان را تشویق می‌کند تا عمیق‌تر با سیستم‌های اطلاعاتی که به طور فزاینده‌ای زندگی ما را تعریف می‌کنند، درگیر شوند. ما در آستانه یک تغییر عظیم هستیم که اندکی افراد واقعاً آن را درک می‌کنند. از یک زاویه، بحران آب‌وهوا ما را تهدید می‌کند.

از سوی دیگر، کارشناسان هشدار می‌دهند که هوش مصنوعی می‌تواند به نابودی کل تمدن ما منجر شود. «نکسوس» و هراری می‌توانند به ما در شناخت وضع موجود کمک کنند. فرقی نمی‌کند علاقه‌مند به فناوری، علاقه‌مند به تاریخ، یا صرفاً در مورد نیروهایی که دنیای ما را شکل می‌دهند، کنجکاو باشید، «نکسوس» بینش‌های ارزشمندی را ارائه می‌دهد و منبعی برای تفکر است. همان‌طور که هراری بارها در طول کتاب تاکید می‌کند؛ «تصمیم‌هایی که همه ما در سال‌های آینده می‌گیریم تعیین می‌کند که آیا احضار این هوش بیگانه یک خطای نهایی است یا آغاز یک فصل جدید امیدوارکننده در تکامل زندگی». تعیین مسیر سرنوشت جمعی بر عهده همه ماست و زمانی برای از دست دادن در این نبرد بزرگ وجود ندارد و هراری می‌تواند در گرفتن تصمیم‌های درست ما را یاری کند.

^{................} تجربه‌ی زندگی دوباره ^{...............}