یادداشت منتشر شده در روزنامه شرق به تاریخ ۶ بهمن ۱۴۰۰
سه مشکل اساسی قرن بیستویکم که با بود یا نبود بشریت ارتباط برقرار کرده و در حال حاضر فراروی ما قرار گرفته است، عبارتاند از: 1- جنگ هستهای ۲- فروپاشی محیط زیست و ۳- توقف ناشی از تکنولوژی. تهدیدهای اول و دوم برای ما تهدیدهای نامآشنایی هستند، ولی نمیدانم چرا ما را با تهدید نوع سوم کمتر آشنا کردهاند؟ تکنولوژی میتواند در جامعه و حیات بشری از راههای گوناگون وقفه ایجاد کند. یعنی این پدیده دستساز بشر قادر است از طریق نابودکردن شغل و بیمصرفکردن تعداد زیادی از مردم در سطح جهان به ظهور «استعمار دادهها» و «دیکتاتوری دیجیتال» دامن بزند. فناوری اطلاعات بهزودی میلیونها شغل را از بین خواهد برد. هرچند که این پدیده ممکن است خالق مشاغل جدیدی نیز در دنیا باشد، اما روشن نیست که آیا همه مردم میتوانند به همان سرعت پیشرفت تکنولوژی، مهارتهای خود را برای مشاغل جدید، بازآموزی کنند و خود را با شرایط احراز این شغل تطبیق دهند؟ شما تصور کنید راننده کامیون ۵۰ساله هستید که شغل خود را به دلیل «اتومبیلهای خودران» در سالهای آتی از دست خواهید داد. هرچند شغل جدیدی در کنار ازدسترفتن این شغل، یعنی مهندسی طراحی نرمافزار بهوجود میآید، ولی چقدر احتمال دارد که یک راننده ۵۰ساله بتواند خود را با الزامات این شغل جدید، تطبیق دهد و بازآفرینی کند؟! مردم در آینده نه برای یک بار، بلکه باید برای بارها و بارها توانایی ذهنی خود را با مشاغل جدیدی که در پی ازدستدادن مشاغل قدیم پدیدار میشوند، تطبیق داده و بهروزرسانی کنند. زیرا برای انقلاب فناوری هیچ وقفهای قابل تصور نیست. و نباید انتظار داشت که هوش مصنوعی فقط یک بار در جهان اتفاق بیفتد و برای همیشه تمام شود. اگرچه در گذشته انسان باید علیه استثمار میجنگید، ولی در قرن بیستویکم مبارزه و جنگ واقعی علیه «بیربطان» خواهد بود که به دلیل پیشرفتهای تکنولوژی شغل خود را از دست داده و به بیمصرفان جامعه تبدیل شدهاند و روزبهروز فاصله آنها با نخبگان جامعه که هر لحظه قوی و قویتر میشوند، بیشتر و بیشتر خواهد شد! امروز هوش مصنوعی نهتنها میتواند بین طبقات مختلف یک جامعه که در بالا به آن اشاره شد شکاف عمیق ایجاد کند، بلکه قادر است بین کشورهای مختلف هم، به چنین شکاف عمیقی دامن بزند. یعنی اگر در قرن نوزدهم بریتانیای کبیر با «انقلاب صنعتی» توانست تعداد زیادی از کشورها را مستعمره خود کند در قرن بیستویکم اگر حواسمان جمع نباشد، تعداد معدودی از کشورها همین کار را با انقلاب هوش مصنوعی با وسعت بیشتری در سراسر جهان انجام خواهند داد. ما همین حالا در مسابقه تسلیحاتی هوش مصنوعی قرار گرفتهایم. چین و ایالات متحده، پیشگامان این مسابقه هستند.
اگر اقدامی برای توزیع عادلانه منافع هوش مصنوعی بین مردم دنیا صورت نگیرد، در آینده نهچندان دور ثروت عظیمی برای چند کشور خاص در جهان ایجاد خواهد شد و در این مسیر، بسیاری از کشورهای دنیا یا ورشکست شده یا به استثمار این چند کشور درخواهند آمد. تصور کنید چه اتفاقی در کشور ما رخ خواهد داد اگر بفهمیم تمام سوابق پزشکی و شخصی همه سیاستمداران، قضات و روزنامهنگاران کشورمان در اختیار دانشمندان پکن و نیویورک قرار گرفته است؟ آنها به همه نقاط قوت و ضعف، ذوق جنسی، مشکلات روحی و روانی، همه نوع معاملاتی که توسط آنها انجام میشود و بسیاری از چیزهای دیگر دسترسی پیدا کنند، آیا به نظر شما در این صورت بازهم ما میتوانیم ادعا کنیم که یک کشور مستقل محسوب میشویم؟ زیرا این یک اصل مسلم و شناختهشدهای است که اگر دادههای کافی را از مردم یک کشور در اختیار داشته باشیم، دیگر نیازی نداریم که برای تصرف آن کشور، سربازانی را به آنجا اعزام کنیم. ظهور دیکتاتوری دیجیتال باعث خواهد شد که همه افراد بشر تحت نظر و کنترل قرار بگیرند. این خطر از این معادله ساده که شاید بتوان آن را بزرگترین معادله تعیینکننده قرن بیستویکم نامید، برمیخیزد: یعنی اگر دانش بیولوژی را ضربدر توان محاسباتی کامپیوتر و هر دو آنها را ضربدر دیتا کنیم، حاصل آن مساوی میشود با توان هککردن انسان. یعنی اگر شما به قدر کفایت بیولوژی بدانید و از توان محاسباتی و دادههای کافی برخوردار باشید، آنگاه شما قادر خواهید بود مغز هر انسانی را هک کنید و او را در اختیار بگیرید. در این صورت شما بهتر از خود او، شخصیتش را خواهید شناخت. یعنی شما قادرید تیپ شخصیتش را از نظر سیاسی، احساسات شخصی، عواطف روحی و روانی او بهتر از خود او بشناسید و به عمیقترین شناختهای درونی او دسترسی پیدا کنید و این کار را نهتنها با او بلکه بهصورت سیستمی با کل افراد جامعهاش انجام دهید. آنوقت بهراحتی قادر خواهید بود که تصمیمات آنها را پیشبینی و حتی در آنها تأثیر بگذارید یا در برخی مواقع حتی بهجای آنها تصمیم بگیرید. بسیاری از دیکتاتورها قصد انجام چنین کارهایی را در گذشته داشتهاند و میخواستند این کارها را بکنند، اما هیچکدام از آنها بهقدر کفایت بیولوژی نمیشناختند و توان محاسباتی و دادههای امروز را در اختیار نداشتند تا قادر باشند که مغز میلیونها نفر از افراد بشر را هک کنند. باید به خاطر داشته باشیم که بشر قرن بیستویکم دیگر آن مخلوق رازآلودی نیست که الکسیس کارل (برنده جایزه نوبل) از آن بهعنوان «انسان، موجودی ناشناخته» نام میبرد بلکه حیوانی قابل هکشدن است که اگر این توانایی بزرگ به دست نااهلان دنیای امروز بیفتد، حکومتهای دیکتاتوری بزرگی را در جهان معاصر ایجاد خواهد کرد. تصور کنید در کره شمالی ظرف ۲۰ سال آینده هر کسی باید با یک دستبند بیومتریک در محل کار خود حاضر شود که دائما فشارخون، ضربان قلب و نوسانات مغزی او را در تمام ۲۴ ساعت به مرکزی خاص، در این کشور بهصورت آنلاین مخابره کند. آنگاه هنگامی که سخنرانی رهبر این کشور از رادیو، پخش میشود و در پایان آن همه مردم این کشور برای او شادیکنان کف و سوت میزنند، مقامات آن کشور بهراحتی خواهند فهمید که آیا مردم از روی احساسات قلبی و واقعی خود این کار را انجام میدهند یا در وجود خود نوعی تنفر احساس کرده یا از روی ترس و اجبار اینگونه کیم جونگ اون را تشویق میکنند؟ به نظر شما فساد و نحوه مبارزه با آن در قرن بیستویکم و در چنین فضایی چگونه خواهد بود؟
* برای نوشتن این یادداشت از کلیپهای پرفسور هراری استفاده شده است.