در مورد نهادهای سایبری که کار می کنند چطور؟ در زیر سطح توانایی تصادفی؟ ما می‌توانیم بخواهیم آنها را توسط موجودی که رتبه‌های بالاتری دارد و دارای هسته روح مبتنی بر واقعیت فیزیکی است، تضمین کند. (نتیجه گیری های الهیاتی را به دیگران واگذار می کنم؛ اما این نجابت اساسی برای خالقان است که مسئولیت آفرینش های خود را بپذیرند، درست است؟)
این رویکرد – نیاز به هوش مصنوعی برای حفظ یک مکان هسته قابل آدرس دهی فیزیکی در یک قطعه خاص از حافظه سخت افزاری – می تواند دارای اشکالاتی باشد. با این حال، با وجود تنظیم کند یا مشکل سواری آزاد، قابل انجام است. زیرا انسان ها، مؤسسات و هوش مصنوعی دوستانه می توانند برای تأیید شناسه هسته پینگ کنند – و از انجام تجارت با کسانی که تأیید نمی کنند خودداری کنید.
چنین امتناع از انجام تجارت می تواند با انعطاف پذیری بسیار بیشتری نسبت به پارلمان ها یا سازمان ها که بتوانند مقررات را تنظیم یا وضع کنند گسترش یابد. و هر نهادی که SK خود را از دست می دهد – مثلاً از طریق یک تخلف یا فرآیند قانونی، یا در غیر این صورت انکار میزبان مالک رایانه – باید میزبان دیگری را پیدا کند که به طور عمومی مورد اعتماد باشد، یا در غیر این صورت میزبان جدیدی را پیشنهاد کند. نسخه اصلاح شده ای از خودتان که باورکردنی بهتر به نظر می رسد
یا تبدیل به یک دزد. هرگز در خیابان ها یا محله هایی که افراد محترم (ارگانیک یا مصنوعی) تجمع می کنند، مجاز نیست.
آخرین سوال: چرا این موجودات فوق هوشمند باید همکاری کنند؟
خوب، همانطور که وینتون سرف اشاره کرده است، هیچ یک از این سه قالب قدیمی‌تر و استاندارد پذیرفته‌شده نمی‌توانند منجر به هوش مصنوعی شوند. تابعیت. بهش فکر کن. ما نمی‌توانیم به هیچ نهادی که به شدت توسط بانک وال استریت یا یک دولت ملی کنترل می‌شود، «صدا» یا حقوقی قائل شویم و نه به برخی از اوبر اسکای‌نت. و به من بگویید چگونه دموکراسی رای برای نهادهایی کار می کند که می توانند در هر جایی جریان داشته باشند، تقسیم شوند و کپی های بی شماری بسازند؟ با این حال، سفارشی سازی، تا حدی محدود، می تواند یک راه حل قابل اجرا ارائه دهد.
باز هم، نکته کلیدی که من از فردیت به دنبال آن هستم این است نه برای اینکه همه اشیای هوش مصنوعی توسط یک سازمان مرکزی یا قوانین انسانی آهسته مانند نرم تنان کنترل شوند. در عوض، من می‌خواهم که این نوع جدید از ابرذهن‌ها تشویق شوند و به آنها قدرت بدهند تا یکدیگر را مسئول بدانند، همانطور که ما قبلاً (هر چند به طور ناقص) انجام می‌دهیم. با استشمام کردن عملیات ها و نقشه های یکدیگر، و سپس انگیزه برای سرزنش کردن یا قضاوت در زمانی که متوجه چیزهای بد می شوند. تعریفی که می‌تواند خود را با زمان‌های در حال تغییر تطبیق دهد، اما حداقل به دریافت ورودی‌ها از سوی بشریت ارگانیک-بیولوژیکی ادامه خواهد داد.
به ویژه، آنها انگیزه هایی برای محکوم کردن سوژه هایی که از شناسایی مناسب امتناع می ورزند، احساس می کنند.
اگر مشوق‌های مناسبی وجود داشته باشد – مثلاً پاداش‌های افشاگر که به حافظه یا قدرت پردازش بیشتری می‌دهد، یا دسترسی به منابع فیزیکی زمانی که اتفاق بدی متوقف می‌شود – پس این نوع رقابت مسئولیت‌پذیری ممکن است سرعت خود را حفظ کند، حتی اگر سوژه‌های هوش مصنوعی در حال گرفتن هستند. باهوش تر و باهوش تر هیچ سازمان بوروکراتیکی نتوانست این لحظه را مدیریت کند. اما رقابت بین آنها – نبرد با همتایان – می تواند.
مهمتر از همه، شاید این برنامه های فوق نابغه متوجه شوند که حفظ یک سیستم مسئولیت پذیر رقابتی مانند آنچه تمدن ما را به موفق ترین تمدن بشری تبدیل کرده است، به نفع آنهاست. یکی که هم از هرج و مرج و هم از دام رقت بار قدرت یکپارچه توسط پادشاهان یا روحانیون… یا الیگارش های شرکتی… یا هیولاهای اسکای نت جلوگیری می کند. تنها تمدنی که پس از هزاران سال حکومت تاریک احمقانه توسط رژیم‌های متمرکز کوته‌نفس احمقانه، سرانجام خلاقیت، آزادی و مسئولیت‌پذیری را به اندازه‌ای گسترده گسترش داد که واقعاً مبتکر شود.
به اندازه کافی مبتکر برای ایجاد انواع شگفت انگیز و جدید از موجودات. مانند آنها.
خوب، شما بروید هستند. این دیدگاه مخالفان در مورد آنچه در واقع برای تلاش برای رسیدن به فرود نرم لازم است.
هیچ درخواستی برای “مهلت قانونی” وجود ندارد که ظاهراً برنامه عملی نداشته باشد. نه خوش بینی و نه بدبینی. فقط یک پیشنهاد برای رسیدن به آنجا با استفاده از همان روش هایی که در وهله اول ما را به اینجا رساند.
هیچ موعظه یا «رمزهای اخلاقی» داخلی که موجودات بیش از حد به عنوان یک وکیل به راحتی از آن اجتناب کنند، همانطور که شکارچیان انسانی همیشه از کدهای لاویان، حمورابی یا گوتاما از بالا به پایین اجتناب کرده اند. بلکه رویکرد روشنگری – ترغیب باهوش‌ترین اعضای تمدن برای مراقبت از یکدیگر، از طرف ما.
نمی دونم کار می کنه یا نه
این تنها چیزی است که ممکن است.