اولین بار همانطور که ما صحبت می کنیم، Joep Meindertsma در جای خوبی نیست. او در حین توصیف مکالمه ای که در آن به خواهرزاده خود در مورد خطر فروپاشی جامعه توسط هوش مصنوعی هشدار می دهد، اشک می ریزد. سپس او دچار حمله پانیک شد. او که از طریق زوم از خانه اش در شهر اوترخت هلند صحبت می کند، می گوید: «من یک روز در میان گریه می کنم. هر بار که با والدین یا دوستانم خداحافظی می کنم، احساس می کنم ممکن است آخرین بار باشد.
Meindertsma که 31 سال دارد و مالک یک شرکت پایگاه داده است، چندین سال است که به هوش مصنوعی علاقه مند بوده است. اما زمانی که Open AI جدیدترین مدل زبان خود، GPT-4 را در ماه مارس منتشر کرد، او واقعاً نگران تهدیدی بود که این فناوری می‌تواند برای بشریت ایجاد کند. از آن زمان، او شاهد موفقیت باورنکردنی چت ربات ChatGPT – که ابتدا بر اساس GPT-3، سپس بر روی GPT-4 بود، به دنیا نشان داد که هوش مصنوعی چقدر پیشرفت کرده است و شرکت های بزرگ فناوری در حال رقابت برای رسیدن به عقب هستند. و او پیشگامانی مانند جفری هینتون، به اصطلاح پدرخوانده هوش مصنوعی را دیده است که در مورد خطرات مرتبط با سیستم هایی که به ایجاد آنها کمک کرده اند هشدار می دهند. مایندرتسما می‌گوید: «قابلیت‌های هوش مصنوعی بسیار سریع‌تر از آنچه که هر کسی پیش‌بینی می‌کرد در حال توسعه است. «ما در خطر فروپاشی اجتماعی هستیم. ما در خطر انقراض انسان هستیم.
یک ماه قبل از گفتگوی ما، مایندرتسما دیگر سر کار نمی رود. او چنان غرق این ایده بود که هوش مصنوعی تمدن بشری را نابود خواهد کرد که به سختی به چیز دیگری فکر کرد. او احساس می کرد که باید کاری کند تا از فاجعه جلوگیری کند. بلافاصله پس از آن، او Pause AI را راه اندازی کرد، یک گروه معترض مردمی که کمپینی برای توقف توسعه هوش مصنوعی، همانطور که از نامش پیداست، آغاز کرد. و از آن زمان او گروه کوچکی از پیروان را جمع آوری کرد که تظاهراتی را در بروکسل، لندن، سانفرانسیسکو و ملبورن سازماندهی کردند. این تظاهرات کوچک بوده اند – هر بار کمتر از 10 نفر – اما مایندرتسما در مکان های بلند دوستانی پیدا کرده است. او می گوید که قبلاً برای صحبت با مقامات پارلمان هلند و کمیسیون اروپا دعوت شده است.
این ایده که هوش مصنوعی می تواند بشریت را نابود کند، افراطی به نظر می رسد. اما این ایده ای است که هم در بخش فناوری و هم در سیاست جریان اصلی در حال جلب توجه است. هینتون پست خود را در گوگل در ماه مه ترک کرد و یک دور جهانی از مصاحبه ها را آغاز کرد که در آن او این شبح را مطرح کرد که با پیشرفت فناوری، انسان ها دیگر نمی توانند هوش مصنوعی را کنترل کنند. در همان ماه، رهبران صنعت – از جمله مدیران عامل آزمایشگاه‌های هوش مصنوعی Google DeepMind، OpenAI و Anthropic – نامه‌ای را امضا کردند که در آن به “خطر انقراض” اذعان کردند و ریشی سوناک، نخست‌وزیر بریتانیا اولین رئیس دولتی بود که علناً اعتراف کرد که او نیز معتقد است. هوش مصنوعی نشان دهنده خطر وجودی برای بشریت است.
مایندرتسما و پیروانش نگاهی به نحوه فیلتر کردن این هشدارها در جامعه، ایجاد پدیده جدیدی از اضطراب هوش مصنوعی و به نسل جوان – که بسیاری از آنها در حال حاضر عمیقاً نگران تغییرات آب و هوا هستند – دلیل جدیدی برای وحشت در مورد آینده ارائه می دهند. یک نظرسنجی توسط شرکت نظرسنجی YouGov نشان داد که نسبت افرادی که نگران این هستند که هوش مصنوعی به آخرالزمان منجر شود در سال گذشته به شدت افزایش یافته است. هینتون انکار می کند که می خواهد توسعه هوش مصنوعی به طور موقت یا نامحدود متوقف شود. اما اظهارات علنی او در مورد خطراتی که هوش مصنوعی برای بشریت ایجاد می کند منجر به ایجاد گروهی از جوانان شده است که معتقدند چاره دیگری وجود ندارد.
به افراد مختلف، «ریسک وجودی» به معنای چیزهای مختلفی است. مایندرتسما می‌گوید: «سناریوی اصلی که من شخصاً نگران آن هستم، فروپاشی جامعه به دلیل هک کردن در مقیاس بزرگ است. کل اینترنت.” این سناریویی است که کارشناسان می گویند بسیار بعید است. اما Meindertsma همچنان نگران پایداری خدمات بانکی و توزیع غذا است. او می گوید: “مردم نمی توانند در یک شهر غذا پیدا کنند. مردم با هم مبارزه خواهند کرد.” “من فکر می کنم میلیاردها نفر خواهند مرد.”