جفری هینتونیک استاد دانشگاه تورنتو که به دلیل تحقیقات ارزشمندش در شبکه های عصبی به عنوان “پدرخوانده هوش مصنوعی” شناخته می شود، گوگل را در بهار امسال ترک کرد تا آزادانه از فناوری هوش مصنوعی انتقاد کند.

هینتون معتقد است که محبوبیت ناگهانی سرویس‌های هوش مصنوعی مانند ChatGPT و Bing Chat نشان‌دهنده شتاب لجام گسیخته و احتمالاً خطرناک در توسعه هوش مصنوعی است. گوگل قبلا در زمینه هوش مصنوعی بسیار محتاط عمل می کرد، اما رقابت در بازار باعث شد این شرکت به طور جدی تری روی هوش مصنوعی تمرکز کند.

جفری هینتون در کنفرانسی جدید به نگرانی های خود در مورد هوش مصنوعی اشاره کرد. همانطور که شرکت های بزرگ فناوری به هوش مصنوعی به عنوان کمکی برای همه چیز نگاه می کنند، هینتون زنگ خطر را به صدا در می آورد.

به گفته Engget، پدرخوانده هوش مصنوعی می گوید که نسخه خوب هوش مصنوعی احتمالاً قادر به رقابت با نسخه بد این فناوری غرور نخواهد بود. او همچنین معتقد است که استفاده اخلاقی از هوش مصنوعی بسیار پرهزینه خواهد بود.

هینتون می گوید جلوگیری از تولید ربات های نظامی قاتل بسیار دشوار است. زیرا شرکت ها و ارتش ها عاشق جنگ هایی هستند که در آن تلفات انسانی با تلفات ربات جایگزین می شود. اگرچه او به تأثیر الگوهای زبانی بزرگ بر بهره‌وری انسان اشاره می‌کند، اما هینتون می‌گوید که بخش غالب بازار می‌تواند از این الگوها برای افزایش بیش از حد قدرت خود برای افزایش بیشتر شکاف ثروت استفاده کند. به گفته هینتون، در این شرایط «ثروتمندان ثروتمندتر می شوند و فقیرها فقیرتر می شوند».

جفری هینتون ادعای جنجالی قبلی خود را تکرار کرد که هوش مصنوعی تهدیدی برای نسل بشر است. اگر هوش مصنوعی از انسان هوشمندتر شود، هیچ تضمینی وجود ندارد که انسان بتواند این فناوری را کنترل کند.

اگر هوش مصنوعی تصمیم بگیرد برای رسیدن به اهدافش کنترل را از دست انسان ها بگیرد، «ما با مشکل مواجه خواهیم شد». هینتون می گوید خطرات هوش مصنوعی فقط به فیلم های علمی تخیلی محدود نمی شود و ما باید آنها را جدی بگیریم.

هینتون می گوید یکی از بزرگترین مشکلات فعلی هوش مصنوعی سوگیری و اطلاعات گمراه کننده است. زیرا داده های کج در مجموعه داده باعث نتایج ناعادلانه می شود. از سوی دیگر، الگوریتم های نرم افزاری مبتنی بر هوش مصنوعی به انتشار اطلاعات نادرست بیشتر و افزایش مشکلات سلامت روان کمک می کنند.

علاوه بر هینتون، کنفرانس تورنتو میزبان افراد دیگری مانند مدیر ارشد Google DeepMind بود. او و دیگران عموماً دیدگاه مثبتی نسبت به هوش مصنوعی داشتند و نسبت به آینده این فناوری خوشبین بودند. طرفداران این صنعت می گویند هوش عمومی مصنوعی (AGI) که می تواند مانند انسان ها استدلال کند و تصمیم بگیرد، به حل بسیاری از مشکلات کمک می کند.