به گزارش خبرواژه، گروهی از چهرههای برجسته حوزه هوش مصنوعی، از جمله جفری هینتون و یاشوا بنجیو، در پژوهشی درباره آینده خودکارسازی تحقیق و توسعه هوش مصنوعی نسبت به احتمال وقوع پدیدهای موسوم به «انفجار هوش» هشدار دادهاند؛ سناریویی که در صورت تحقق میتواند سرعت پیشرفت فناوری را به شکل چشمگیری افزایش دهد.
«انفجار هوش» چگونه شکل میگیرد؟
این پژوهش با عنوان «چه میشود اگر خودکارسازی تحقیق و توسعه هوش مصنوعی جرقه انفجار هوش را بزند؟» با مشارکت بیش از ۲۰ پژوهشگر تهیه شده است. در میان نویسندگان آن، علاوه بر هینتون و بنجیو، نامهایی مانند جک کلارک، همبنیانگذار آنتروپیک، و یاکوب پاچوکی، دانشمند ارشد OpenAI، نیز دیده میشود.
نویسندگان «انفجار هوش» را سناریویی توصیف کردهاند که در آن هوش مصنوعی بهطور فزایندهای در تحقیق و توسعه فناوری نقش میگیرد و همین موضوع باعث شتاب گرفتن چرخه پیشرفت میشود. در چنین شرایطی، دستاوردهایی که در حالت عادی سالها زمان میبرند، ممکن است در مدت بسیار کوتاهتری حاصل شوند.
خودکارسازی تحقیق و توسعه؛ محرک احتمالی جهش هوش مصنوعی
یکی از محورهای اصلی این پژوهش، مفهوم «خودبهبودی بازگشتی» یا RSI است؛ فرآیندی که در این گزارش عمدتاً از منظر خودکارسازی تحقیق و توسعه هوش مصنوعی بررسی شده است.
نویسندگان معتقدند اگر سیستمهای هوش مصنوعی به سطحی از توانایی برسند که بتوانند به شکل تخصصی در تحقیق و توسعه هوش مصنوعی مشارکت کنند، ظرفیت تحقیقاتی بسیار بزرگی در اختیار قرار خواهد گرفت و مدلهای جدید نیز میتوانند پس از توسعه، با سرعت زیادی مستقر شوند.
در بخشی از مقاله آمده است: «انفجار هوش میتواند تأثیرگذارترین پیشرفت فناورانه تاریخ بشر باشد، سالها پیشرفت را در چند ماه یا کمتر فشرده کند، کنترل انسانها بر سیستمها را به خطر بیندازد و توازن قدرت را در درون و میان دولتها، شرکتها و ارکان حاکمیتی بهشدت تضعیف سازد. بهمحض اینکه انفجار هوش آغاز شود، ممکن است فرصت ما برای هرگونه اقدام تمام شود.»
سه نگرانی اصلی درباره انفجار هوش
این پژوهش در کنار فرصتهای احتمالی، از سه دسته ریسک نیز سخن میگوید. نخست، سیستمهای بسیار قدرتمند ممکن است زمینهساز تهدیدهای زیستی و حملات سایبری پیچیدهای شوند که سرعت شکلگیری آنها از روند ایجاد اقدامات مقابلهای بیشتر باشد.
دومین نگرانی به کاهش نقش انسان در فرآیند تحقیق و توسعه مربوط میشود. در صورتی که بخش قابلتوجهی از این فرآیند به سیستمهای خودکار واگذار شود، امکان نظارت و مداخله انسانی نیز ممکن است با چالش مواجه شود.
سومین نگرانی به استفاده دولتها از توانمندیهای هوش مصنوعی مربوط است. نویسندگان هشدار دادهاند که یک دولت میتواند با تکیه بر برتری در حوزههایی مانند فضای سایبری، از یک مزیت محدود به موقعیتی بسیار تعیینکننده دست پیدا کند.
عدمقطعیت درباره زمان و ابعاد این سناریو
با وجود هشدارهای مطرحشده، نویسندگان تأکید کردهاند که تحقق و ابعاد «انفجار هوش» همچنان با عدمقطعیت همراه است. حتی در صورت دستیابی به پیشرفتهای علمی جدید، عواملی مانند زنجیره تأمین، زیرساختهای مورد نیاز و الزامات قانونی میتوانند سرعت عملیاتی شدن آنها را کاهش دهند.
از سوی دیگر، خود هوش مصنوعی نیز ممکن است برای شناسایی، ارزیابی و کاهش برخی خطرات مورد استفاده قرار گیرد. بنابراین، پژوهشگران میان امکان وقوع این سناریو و قطعیت تحقق آن تفاوت قائل شدهاند.
پیشنهادهایی برای آمادگی دولتها
نویسندگان برای کاهش ریسکهای احتمالی، مجموعهای از اقدامات سیاستی را پیشنهاد کردهاند. از جمله این پیشنهادها میتوان به شفافیت بیشتر شرکتها درباره روند تحقیق و توسعه، استفاده از حسابرسان مستقل و ایجاد سازوکارهایی برای کنترل سرعت توسعه مدلها اشاره کرد.
همچنین پیشنهاد شده است مراکز داده امکان توقف برخی پروژههای پرریسک را فراهم کنند و سیستمهای خودکار در محیطهایی ایزوله فعالیت داشته باشند تا امکان خروج از سازوکارهای کنترلی کاهش یابد. آمادهسازی برنامههای واکنش اضطراری برای سناریوهای مختلف نیز از دیگر توصیههای این پژوهش است.
خودکارسازی تحقیقات هوش مصنوعی در مسیر رشد
در این گزارش به افزایش استفاده از هوش مصنوعی در فرآیند توسعه محصولات و مدلهای جدید اشاره شده است. با این حال، نویسندگان تأکید دارند که رشد بهرهوری ناشی از خودکارسازی تحقیق و توسعه هنوز به سطحی نرسیده که بتوان از آغاز یک «انفجار هوش» سخن گفت.
در پایان پژوهش آمده است: «رشد بهرهوری حاصل از خودکارسازی تحقیق و توسعه هنوز به آستانه لازم برای کلیدزدن انفجار هوش نرسیده است، اما دستاوردهای مدلهای جدیدتر بهسرعت درحال نزدیکشدن به این مرز بحرانی هستند.»
این دیدگاه نشان میدهد بحث درباره آینده هوش مصنوعی بیش از گذشته به موضوع سرعت توسعه، میزان نظارت انسانی و نحوه مدیریت ریسکهای ناشی از خودکارسازی تحقیق و توسعه گره خورده است.
برای دنبال کردن تازهترین اخبار و تحولات هوش مصنوعی و فناوری، به خبرواژه مراجعه کنید.
“`
