در سالهای اخیر، با پیشرفت خیرهکننده فناوری، ترس از هوش مصنوعی به یکی از دغدغههای اصلی بشر تبدیل شده است. فیلمهای علمیتخیلی و هشدارهای برخی از چهرههای سرشناس دنیای فناوری، تصویری از آیندهای تاریک رسم میکنند که در آن ماشینهای هوشمند بر انسانها مسلط شده و شاید حتی نسل بشر را از بین ببرند. اما در میان این هیاهو و ترس از یک موجودیت غیرارگانیک، یک سوال اساسی و به شدت واقعگرایانه غالباً فراموش میشود: آیا ما نباید بیشتر از خود انسانها بترسیم؟ هوش مصنوعی، در ذات خود، چیزی جز یک ابزار بسیار پیچیده نیست. این فناوری از کدهای کامپیوتری، الگوریتمهای ریاضی و دادههای عظیم تشکیل شده است. هوش مصنوعی فاقد احساسات، جاهطلبی، حرص و طمع، و از همه مهمتر، فاقد نیت است. یک برنامه کامپیوتری صبح از خواب بیدار نمیشود تا برای تسخیر جهان توطئه کند؛ بلکه تنها دستوراتی را اجرا میکند که برای آنها برنامهریزی شده است. اگر هوش مصنوعی در آینده تصمیمی مخرب بگیرد، این تصمیم ناشی از یک شرارت ذاتی در ماشین نیست، بلکه بازتابی از نقص در برنامهنویسی، سوگیری در دادههای آموزشی، یا دستورالعملهای اشتباهی است که توسط یک انسان به آن داده شده است. ماشینها ارادهای برای ظلم ندارند، آنها فقط بازتابدهنده ذهن خالقان خود هستند. در مقابل، تاریخ بشریت پر از صفحات تاریکی است که توسط خود انسانها نوشته شده است. جنگهای جهانی، نسلکشیها، استفاده از سلاحهای کشتار جمعی، تخریب سیستماتیک محیط زیست و استثمار همنوعان، همگی حاصل تصمیمات و اعمال انسانی بودهاند. انسانها دارای احساسات و ویژگیهای پیچیدهای مانند حسادت، کینه، حرص برای قدرت، تعصب و خودخواهی هستند؛ عواملی که در طول تاریخ محرک اصلی بزرگترین فجایع بودهاند. وقتی یک انسان خطرناک یا یک ایدئولوژی مخرب به قدرت میرسد، میتواند از هر ابزاری برای رسیدن به اهداف شوم خود استفاده کند. بنابراین، خطر واقعی و ملموس در خود تکنولوژی نهفته نیست، بلکه در دستانی است که کنترل آن را بر عهده دارند. هر فناوری جدیدی در طول تاریخ شمشیری دو لبه بوده است. کشف آتش، هم باعث گرم شدن خانهها و پیشرفت تمدن شد و هم برای سوزاندن شهرها مورد استفاده قرار گرفت. شکافت هستهای هم انرژی پایدار تولید میکند و هم توانست در قالب بمب اتمی، صدها هزار نفر را در کسری از ثانیه نابود