آیا هوش مصنوعی و ChatGPT آغازگر یک ابر بحران برای بشریت می‌شوند
اخبار داغ فناوری اطلاعات و امنیت شبکه
ابتدا باید پاسخ بدهیم که آیا روند پیشروی شرکت‌های فناوری در توسعه فناوری هوش مصنوعی قدرتمندی که می‌تواند روزی از انسان‌ها پیشی بگیرد، زیاد از حد سریع پیش می‌رود؟
این نتیجه‌گیری گروهی از دانشمندان برجسته کامپیوتر و سایر افراد برجسته صنعت فناوری مانند ایلان ماسک و استیو وزنیاک، بنیانگذار اپل است که خواهان یک مکث ٦ ماهه برای بررسی خطرات احتمالی آن هستند.
بیانیه آنها که چهارشنبه منتشر شد که پاسخی است به انتشار نسخه اخیر GPT-4 توسط استارتاپ سانفرانسیسکویی OpenAI به‌عنوان یک جانشین پیشرفته‌تر برای چت‌بات هوش مصنوعی پرکاربرد ChatGPT که به شعله‌ور شدن رقابت بین غول‌های فناوری مایکروسافت و گوگل برای پرده‌برداری از برنامه‌های کاربردی مشابه کمک کرد.
آنها چه می‌گویند؟
این بیانیه هشدار می‌دهد که سیستم‌های هوش مصنوعی با «هوش رقابتی انسانی می‌توانند خطرات عمیقی برای جامعه و بشریت ایجاد کنند»؛ از هجوم اینترنت با خیلی عظیم اطلاعات نادرست و خودکار کردن مشاغل گرفته تا خطرات فاجعه‌بارتر آینده خارج از قلمرو و مرز‌های مسائل علمی و تخیلی.
این بیانیه می‌گوید : «ماه‌های اخیر شاهد بوده‌ایم که آزمایشگاه‌های هوش مصنوعی در رقابتی خارج از کنترل برای توسعه و استقرار ذهن‌های دیجیتالی قدرتمند‌تر که هیچ‌کس و حتی سازندگان آنها، نمی‌تواند آن را درک، پیش‌بینی یا به‌طور قابل اعتماد کنترل کند، متمرکز شده‌اند. »
در ادامه این بیانیه آمده است : «ما از همه آزمایشگاه‌های هوش مصنوعی می‌خواهیم که بلافاصله آموزش سیستم‌های هوش مصنوعی قدرتمند‌تر از GPT-4 را به مدت حداقل ٦ ماه متوقف کنند. این مکث و توقف باید عمومی و قابل تایید باشد و همه بازیگران کلیدی را شامل شود. اگر چنین مکثی نمی‌تواند به‌سرعت اعمال شود، دولت‌ها باید وارد عمل شوند و یک قانون برای این تعلیق، وضع کنند. »
تعدادی از دولت‌ها در حال حاضر برای تنظیم ابزار‌های هوش مصنوعی پرخطر کار می‌کنند. بریتانیا روز چهارشنبه مقاله‌ای را منتشر کرد که در آن رویکرد خود را در‌این‌باره تشریح کرد و گفت : «از قوانین سنگینی که می‌تواند نوآوری را خفه کند، اجتناب می‌کند». از دیگر سو نیز، قانونگذاران ٢٧ کشور اتحادیه اروپا در حال مذاکره برای تصویب قوانین جامع هوش مصنوعی هستند.
چه کسی بیانیه را امضا کرد؟
این بیانیه توسط موسسه غیرانتفاعی Future of Life سازماندهی شده است که می‌گوید امضا‌کنندگان تایید شده شامل یوشوا بنجیو، پیشگام هوش مصنوعی برنده جایزه تورینگ و سایر محققان برجسته هوش مصنوعی مانند استوارت راسل و‌گری مارکوس هستند. سایر افرادی که به آن پیوستند عبارتند از وزنیاک، نامزد سابق ریاست‌جمهوری ایالات متحده، اندرو یانگ و راشل برونسون، رئیس بولتن دانشمندان اتمی، یک گروه مدافع علم محور که به دلیل هشدار‌هایش علیه جنگ هسته‌ای پایان‌دهنده بشریت شناخته شده است.
ماسک که تسلا، توییتر و اسپیس ایکس را اداره می‌کند و یکی از بنیان‌گذاران OpenAI و سرمایه‌گذار اولیه بود، مدت‌ها در مورد خطرات وجودی هوش مصنوعی ابراز نگرانی کرده است. عماد مستق، مدیر عامل Stability AI، سازنده مولد تصویر AI Stable Diffusion که با آمازون شریک است و با جنریتور مشابه OpenAI معروف به DALL-E رقابت می‌کند، می‌باشد.
پاسخ چیست؟
مجموعه OpenAI، مایکروسافت و گوگل به درخواست‌ها برای اظهار نظر در روز چهارشنبه پاسخ ندادند، اما این نامه از قبل دارای شک و تردید‌های زیادی است.
جیمز گریملمن، استاد حقوق دیجیتال و اطلاعات دانشگاه کرنل می‌گوید : "این توقف ایده خوبی است، اما نامه مبهم است و مشکلات نظارتی را جدی نمی‌گیرد. با توجه به اینکه تسلا چقدر در برابر مسئولیت‌پذیری هوش مصنوعی معیوب در ماشین‌های خودران خود مبارزه کرده است، امضای قرارداد توسط ایلان ماسک بسیار ریاکارانه به نظر می‌رسد. "
آیا این بیانیه، نتیجه هیستری هوش مصنوعی است؟
در‌حالی‌که این نامه شبح هوش مصنوعی شرور را بسیار هوشمند‌تر از آنچه در‌واقع وجود دارد مطرح می‌کند، این هوش مصنوعی «فوق بشری» نیست که برخی از کسانی که بیانیه را امضا کرده‌اند، نگران هستند. ابزاری مانند ChatGPT اگرچه چشمگیر است، اما به سادگی یک تولیدکننده متن است که پیش‌بینی می‌کند که چه کلماتی به درخواستی که داده شده بر اساس آنچه که از طریق جذب گنجینه‌های عظیم آثار مکتوب آموخته، پاسخ می‌دهند.
گری مارکوس، استاد بازنشسته دانشگاه نیویورک که نامه را امضا کرد، در یک پست وبلاگی گفت که با دیگر افراد که نگران چشم‌انداز کوتاه‌مدت ماشین‌های هوشمندی که آنقدر هوشمند هستند که می‌توانند خود را خارج از کنترل بشریت بهبود بخشند، مخالف است. چیزی که او بیشتر نگران آن است «هوش مصنوعی متوسط» است که به طور گسترده از‌جمله توسط جنایتکاران یا تروریست‌ها برای فریب دادن مردم یا انتشار اطلاعات غلط و خطرناک، استفاده می‌شود.
مارکوس نوشت : «فناوری فعلی خطرات زیادی را به همراه دارد که ما برای آن آمادگی کافی نداریم. با فناوری آینده، اوضاع می‌تواند حتی بدتر شود. »
برچسب ها: DALL-E, Stability AI, AI Stable Diffusion, استیو وزنیاک, ChatGPT-4, چت‌بات, ChatBot, Bard, OpenAI, ChatGPT, ایلان ماسک, Artificial Intelligence, Microsoft, هوش مصنوعی, دفاع سایبری, تهدیدات سایبری, Cyber Security, مایکروسافت, گوگل, امنیت سایبری, Cyber Attacks, حمله سایبری, news