هشدار «پدرخوانده هوش مصنوعی» به دولت‌ها
شفاآنلاین»عمومی»هینتون در کنفرانس جهانی هوش مصنوعی (WAIC) در شانگهای گفت که با وجود منافع ملی متفاوت، هیچ کشوری نمی‌خواهد هوش مصنوعی بر بشریت تسلط یابد.
به گزارش شفاآنلاین:او خاطرنشان کرد که همکاری‌های بین‌المللی در خصوص استفاده تهاجمی از هوش مصنوعی – مانند «حملات سایبری، سلاح‌های خودکار کشنده یا ویدیوهای جعلی برای دستکاری افکار عمومی» – بعید است.
هینتون افزود، با این حال، کشورها می‌توانند «شبکه‌ای از نهادها» را برای هدایت توسعه یک هوش مصنوعی بسیار هوشمند تشکیل دهند «که نمی‌خواهد از شر انسان‌ها خلاص شود». وی این همکاری پیشنهادی را با همکاری شوروی و آمریکا در زمینه عدم اشاعه سلاح‌های هسته‌ای در دوران جنگ سرد مقایسه کرد.
هینتون که اغلب به عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود، توسعه هوش مصنوعی را به «بزرگ کردن یک توله ببر» تشبیه کرد که پس از بالغ شدن می‌تواند خطرناک شود.
«اگر یک توله ببر به عنوان حیوان خانگی دارید، فقط دو گزینه وجود دارد. ببینید آیا می‌توانید آن را طوری آموزش دهید که هرگز نخواهد شما را بکشد، یا از شرش خلاص شوید.»
او توضیح داد که احتمالاً هوش مصنوعی به‌تدریج به دنبال کسب کنترل بیشتر خواهد بود تا وظایف محوله‌اش را انجام دهد؛ هر چه هوشمندتر می‌شود و از انسان‌ها پیشی می‌گیرد، صرفاً «خاموش کردن آن» راه‌حل نخواهد بود.
هینتون گفت: ما مثل بچه‌های سه ساله خواهیم بود و آنها مانند بزرگسالان.
او همچنین در مصاحبه با مطبوعات خاطرنشان کرد که همکاری در این زمینه برای کشورهای «منطقی» باید نسبتاً آسان باشد، اما گفت که ممکن است برای ایالات متحده تحت «دولت فعلی‌اش»، «دشوار» باشد.
کاخ سفید روز چهارشنبه «طرح اقدام» خود را برای دستیابی به «سلطه جهانی» در هوش مصنوعی از طریق سرمایه‌گذاری، یارانه‌ها و حذف محدودیت‌های قانونی در توسعه این فناوری اعلام کرد.
پکن نیز اعلام کرده است که قصد دارد سازمانی را برای هماهنگی همکاری‌های بین‌المللی در زمینه هوش مصنوعی تأسیس کند.
لی کیانگ، نخست وزیر چین، در کنفرانس جهانی هوش مصنوعی گفت: ما باید هماهنگی را برای تشکیل یک چارچوب جهانی مدیریت هوش مصنوعی تقویت کنیم.
انتقاد تند از رهبران فناوری: ماسک و زاکربرگ الیگارش هستند!
پدرخوانده هوش مصنوعی، همچنین در اظهارنظری تند گفت بسیاری از افراد در شرکت‌های فناوری به‌طور علنی خطرات هوش مصنوعی را «کم‌اهمیت جلوه می‌دهند».
او رهبران بزرگ فناوری مانند «ایلان ماسک»، مالک xAI، و «مارک زاکربرگ»، مدیرعامل متا، را «الیگارش» خواند و گفت که به آنها برای مدیریت ایمن هوش مصنوعی اعتماد ندارد. او در میان تمام چهره‌های سرشناس این صنعت، فقط یک نفر را استثنا می‌کند: «دمیس هاسابیس»، مدیرعامل گوگل دیپ‌مایند.
هینتون گفت: افرادی که هوش مصنوعی را کنترل می‌کنند، افرادی مانند ماسک و زاکربرگ، الیگارش هستند.
وقتی از او پرسیده شد که آیا به آنها برای مدیریت این فناوری قدرتمند اعتماد دارد، پاسخ داد: فکر می‌کنم وقتی آنها را الیگارش خواندم، شما پاسخ این سؤال را می‌دانید.
