هینتون در مصاحبه ای با نیویورک تایمز می گوید که شغل خود را در گوگل رها کرده تا بتواند آزادانه در مورد خطرات هوش مصنوعی صحبت کند و بخشی از او از کار زندگی خود در این زمینه پشیمان است. او گفت که در زمانی که در آنجا بود، گوگل به عنوان یک “مشاور خوب” توسعه هوش مصنوعی عمل کرد و مراقب بود هر چیزی که ممکن است مضر باشد را منتشر کند. دیدگاه او در مورد صنعت در طول سال گذشته تغییر کرد، زمانی که بینگ چت مایکروسافت از تجارت اصلی گوگل، مرورگر وب، عکس گرفت، و باعث شد که گوگل در پاسخ بیشتر واکنش نشان دهد تا عمدی. نگرانیهایی وجود دارد که در حالی که این شرکتها برای برتری هوش مصنوعی مبارزه میکنند، اقدامات احتیاطی مناسبی را در برابر بازیگران بد نیت که از فناوریها برای پر کردن اینترنت با عکسها، متنها و حتی ویدیوهای جعلی استفاده میکنند، انجام نمیدهند. اینکه یک فرد معمولی دیگر نمی تواند بگوید چه چیزی واقعی است و چه چیزی توسط اعلان هوش مصنوعی ساخته شده است.


هینتون فکر میکند که جدیدترین سیستمها شروع به تجاوز به تواناییهای انسان کردهاند، اگر نگوییم آنها را تحت الشعاع قرار میدهند، و به بیبیسی میگوید: «در حال حاضر چیزی که ما میبینیم چیزهایی مانند GPT-4 است که یک فرد را در مقدار دانش عمومی که دارد و آن را تحت الشعاع قرار میدهد. آنها را تا حد زیادی تحت الشعاع قرار می دهد. از نظر استدلال، آنقدرها خوب نیست، اما در حال حاضر استدلال ساده را انجام می دهد. و با توجه به سرعت پیشرفت، ما انتظار داریم که اوضاع خیلی سریع بهتر شود. بنابراین ما باید نگران این باشیم. حالا آنها. تا جایی که من میدانم از ما باهوشتر نیستیم. اما فکر میکنم به زودی خواهند بود. هینتون فکر میکند که با بهبود سیستمها، نسلهای جدید هوش مصنوعی میتوانند خطرناکتر شوند. این نسلهای جدیدتر ممکن است تواناییهای بهتری برای یادگیری از نسلهای بزرگتر نشان دهند. مجموعه داده هایی که آنها استفاده می کنند، که می تواند منجر به تولید و اجرای کدهای هوش مصنوعی یا تعیین اهداف خود شود. “این ایده که این چیزها واقعاً میتوانند از مردم هوشمندتر شوند – چند نفر آن را باور کردند، اما بیشتر مردم فکر میکردند که دور است. و من فکر میکردم دور است. فکر میکردم در 30 تا 50 یا حتی بیشتر است. بدیهی است، من دیگر به این موضوع فکر نمی کنم.”
دکتر هینتون اعتراف می کند که در 75 سالگی زمان بازنشستگی فرا رسیده است و کاملاً روشن می کند که به هیچ وجه استعفا نمی دهد تا بتواند از گوگل یا تیمی که بیش از 10 سال با آنها کار کرده انتقاد کند. او به بیبیسی میگوید که درباره گوگل و رویکردش به هوش مصنوعی «چند چیز خوب» برای گفتن دارد، اما اگر او برای آنها کار نمیکرد، این نظرات باورپذیرتر میشد.
مرجع اخبار سخت افزار کامپیوترایران