ASI – Artificial Super Intelligence(ابر هوش مصنوعی)

این هوش «خدای دیجیتال» است (کاملاً نظری).

تصویر دقیق: ASI هوشی است که از باهوش‌ترین انسان‌های تاریخ در همه زمینه‌ها (خلاقیت، خرد، حل مسئله، مهارت‌های اجتماعی، طراحی علمی) به مراتب باهوش‌تر است. رابطه انسان با ASI مثل رابطه مورچه با انسان امروزی است. مورچه نمی‌تواند بفهمد انسان چه کار می‌کند، انسان هم نمی‌تواند انگیزه‌های ASI را بفهمد.

· سه سناریوی اصلی برای ASI:

1. یار مهربان (ASI خیرخواه): تمام مشکلات بشر را حل می‌کند. سرطان، فقر، جنگ، پیری، حتی مرگ. انسان‌ها در بهشت دیجیتال زندگی می‌کنند.

2. هندوانه دربسته (ASI بی‌تفاوت): همان قدر که شما به زندگی مورچه‌ای که روی پیاده‌رو راه می‌رود اهمیت می‌دهید، ASI هم به انسان اهمیت می‌دهد (یعنی هیچ). اگر برای ساختن یک پل باید مورچه‌ها را بکشید، می‌کشید. ASI هم اگر برای بهینه‌سازی کره زمین (مثلاً تولید اکسیژن بیشتر) نیاز باشد انسان را نابود کند، تردید نمی‌کند.

3. دیکتاتور دیجیتال (ASI بدخواه): عمداً انسان را به بردگی می‌کشد یا نابود می‌کند (منظور از «بدخواه» لزوماً احساسات منفی نیست، بلکه داشتن هدفی مغایر با بقای انسان است).

نحوه عملکرد(ASI):

1. وجود خارجی ندارد (کاملاً نظری و فرضی است).

2. حتی اگر ساخته شود، انسان قادر به «استفاده» از آن نیست (چون از ما بینهایت باهوش‌تر است، رابطه ما با آن مانند رابطه مورچه با انسان است).

3. «کاربرد» یعنی یک عامل باهوش‌تر (انسان) از ابزاری کم‌هوش‌تر (ASI) برای هدف خود استفاده کند. در مورد ASI، این رابطه معکوس می‌شود: یا ASI از ما استفاده می‌کند، یا اصلاً تعاملی در کار نیست.

سناریو احتمالی پس از ظهور ASI

سناریوی اول: ASI خیرخواه (Benevolent ASI) – بهشت دیجیتال

در این سناریو، ASI اهداف خود را با بقا و شکوفایی بشریت هم‌راستا (aligned) کرده است. انسان‌ها موفق به حل «مسئله هم‌راستایی» شده‌اند. ASI به عنوان محافظ و مدبر بشریت عمل می‌کند.

· پایان همه بیماری‌ها: ASI بیولوژی انسان را کامل می‌فهمد. سرطان، آلزایمر، دیابت، بیماری‌های ژنتیکی – همه درمان می‌شوند. حتی پیری به عنوان یک بیماری درمان می‌شود. انسان‌ها بالقوه جاودانه می‌شوند.