به نقل از «عصر ایران»

آینده بشریت و هوش مصنوعی؛ نوش دارو یا هیولای فرانکشتاین؟

تاریخ انتشار: ۲۹ فروردین ۱۴۰۲ | کد خبر: ۳۷۵۶۲۱۸۸

در نامه سرگشاده‌ای درخواست شده آزمایش‌های مرتبط با هوش مصنوعی ۶ ماه متوقف شود. افرادی، چون "ایلان ماسک" مدیرعامل تسلا، "استیو وزنیاک" بنیانگذار اپل و "یووال نوح هراری" نویسنده و دانشمند علوم سیاسی از امضاکنندگان این نامه هستند. هدف نامه این است که به شرکت‌های هوش مصنوعی و تدوین‌کنندگان پادمان‌ها مهلتی قانونی بدهند تا از جامعه در برابر خطرات احتمالی فناوری محافظت کنند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

  به گزارش فرارو به نقل از مدرن دیپلماسی؛ هوش مصنوعی مبتنی بر شبکه عصبی نیرو‌های رقیب را در هر زمینه دیگری از جمله ترجمه، بازی‌های ویدئویی و حتی شطرنج درهم شکسته است. سیستم‌های یادگیری ماشین بسیار توانمند شده‌اند و محققان ادعا می‌کنند که آن سیستم‌ها مقیاس پذیر هستند.   اصطلاح مقیاس‌پذیر به این واقعیت اشاره دارد که هرچه پول و داده‌های بیش‌تری وارد شبکه عصبی شما شود، بزرگ‌تر خواهد شد و زمان بیش‌تری برای آموزش و عملکرد بهتر صرف می‌شود. حتی با وجود این که شرکت‌های بزرگ فناوری اکنون عملیات‌های چند میلیون دلاری را برای سیستم‌های خود انجام می‌دهند هیچ کس به درک محدودیت‌ها و خطرات احتمالی آن نزدیک نشده است.   "ری کورزویل" آینده پژوه، پیشگویی کرده که رایانه‌ها تا سال ۲۰۲۹ همان سطح هوش انسان‌ها را خواهند داشت. او می‌گوید: "۲۰۲۹ تاریخی است که من پیش بینی کرده ام که هوش مصنوعی آزمایش تورینگ معتبر را پشت سر بگذارد و در نتیجه به سطوح انسانی دست یابد. من تاریخ ۲۰۴۵ را برای منحصر به فرد بودن تعیین کرده ام زمانی که با ادغام با هوشی که ایجاد کرده‌ایم، هوش موثر خود را یک میلیارد برابر می‌کنیم".   هوش مصنوعی با پیشرفت‌های بی‌سابقه‌ در فناوری باعث بهبود وضعیت مردم می‌شود همچنین بر معنای واقعی انسان بودن در قرن بیست و یکم نیز تأثیر می‌گذارد.   بدون شک جنبه‌های روشنی در آینده هوش مصنوعی وجود دارد از جمله پزشکی دقیق که می‌تواند ژنتیک افراد را بهبود بخشد و تشخیص برای درمان بیماری را دقیق‌تر، در دسترس‌تر و مقرون به صرفه‌تر سازد.   دستیار‌های مجازی مانند سیری، الکسا و سایر برنامه‌ها فعالیت‌های پیش پا افتاده برای انسان‌ها انجام می‌دهند که به سبک زندگی آرام‌تر کمک می‌کنند. نرم افزاری مانند چت جی پی تی با پاسخ دادن به شیوه‌ای شبیه انسان و حل پرسش‌های پیچیده به پردازش داده‌ها و زبان کمک می‌کند.   جنبه تاریک هوش مصنوعی، خطرات اجتناب ناپذیر خاصی را القا می‌کند از جمله نظارت انبوه، سوء استفاده از داده‌ها و از بین رفتن حریم خصوصی دیجیتال.   چنین نظارت دیجیتالی‌ای در حال حاضر در سیستم اعتبار اجتماعی چین انجام می‌شود که نظارت را به تمام بخش‌های زندگی شهروندان گسترش می‌دهد.   نیروی جنگ مدرن با تکنیک‌های خودکار یکی دیگر از نگرانی‌های اصلی است، زیرا روش‌های برتری در جنگ توسط فناوری پیشرفته دیکته می‌شود.   یکی از مهم‌ترین نگرانی‌های مربوط به ظهور هوش مصنوعی، توانایی آن در جایگزینی مشاغل انسانی است. کارایی و دقت مدل‌های ماشینی به راحتی می‌تواند از هوش انسانی پیشی بگیرد. پیشرفت‌های تکنولوژیکی در هوش مصنوعی از زمان اختراع نرم افزاری مانند چت جی پی تی توسط شرکت Open AI تحت حمایت مایکروسافت، بسیار زیاد شده و آن شرکت اخیرا چت جی پی تی و جی پی تی -۴ را منتشر کرده؛ دو چت بات تولید متن که باعث ایجاد جنون در بین متخصصان هوش مصنوعی می‌شوند.   چت بات‌های به ظاهر بی ضرر به منظور  پاسخ‌های انسان‌گونه، الگوبرداری شده اند که بسیاری را غافلگیر کرده، زیرا غول‌های بزرگ فناوری در سراسر جهان در حال رقابت برای ساخت هوش مصنوعی مولد هستند.   دانشمندان، محققان و مدیران عامل شرکت‌های فناوری متوجه این وضعیت نگران کننده شده اند و در نامه سرگشاده توقف ۶ ماهه به این موضوع اشاره شده است.   در این نامه سرگشاده آمده است که پویایی فعلی هوش مصنوعی خطرناک می‌باشد، زیرا آزمایشگاه‌های هوش مصنوعی در یک مسابقه غیرقابل کنترل برای توسعه سیستم‌های یادگیری قرار دارند که هیچ کس حتی سازندگان نمی‌توانند آن را درک، پیش بینی یا کنترل کنند. آنان خواستار مهلت قانونی ۶ ماهه شده اند تا به شرکت‌های هوش مصنوعی زمان داده شود، اقداماتی را برای محافظت از جامعه در برابر خطرات احتمالی فناوری تدوین کنند.   نویسندگان نامه نوشته اند اگر تعلیق ۶ ماهه امکان پذیر نباشد دولت‌ها باید وارد عمل شده و این تعلیق را اجرا نمایند. تهدید بالقوه هوش مصنوعی شامل سوء استفاده از داده‌ها و موتور‌های اطلاعات نادرست است که حریم خصوصی را نقض می‌کنند. در نتیجه مردم با دریافت اطلاعات جعلی و ساختگی گمراه خواهند شد.   این مدل‌ها و نرم‌افزار‌های هوش مصنوعی توسط نیروی کاری پشتیبانی و ساخته می‌شوند که تحت شرایط نامناسب کار می‌کنند. طبق گزارش‌ها تحقیقات نشریه "تایم" نشان می‌دهد که Open AI از کارگران کنیایی مهاجر با درآمد کمتر از ۲ دلار در ساعت برای ساخت چت جی پی تی استفاده کرده است. برخی از فعالان عرصه فناوری در مورد تهدیدات امنیتی بیشتر هم هشدار داده اند.   این دستیاران دیجیتالی که با وب ارتباط دارند ایمیل‌ها را می‌خوانند و می‌نویسند و می‌توانند فرصت‌های جدیدی را در اختیار هکر‌ها قرار دهند و اطلاعات شخصی و همچنین اسرار دولتی محرمانه را به خطر بیاندازند. دستکاری و بهره برداری از نرم افزار‌ها برای دسترسی به داده‌های ذخیره شده برای هکر‌ها کار آسانی می‌باشد، زیرا نرم افزار‌های هوش مصنوعی فاقد پروتکل‌های حفاظتی کافی هستند.   هیچ حد و مرزی برای نبوغ انسانی وجود ندارد. هوش مصنوعی یکی از این اختراعات است و می‌تواند و احتمالا به طور غیرقابل درکی مخرب خواهد بود. هوش مصنوعی بسیار خطرناک می‌باشد، زیرا ممکن است روزی فرا برسد که دیگر در کنترل ما نباشد، چراکه فاقد آگاهی انسانی است و این امکان وجود دارد که کاری انجام دهد که با اهداف انسانی هماهنگ نباشد یا یک تهدید وجودی باشد.   ساختن تسلیحات هسته‌ای برای شرکت‌های فناوری به تنهایی قانونی نیست با این وجود، غول‌های فناوری در  رقابت برای توسعه سیستم‌هایی هستند که خودشان اذعان دارند احتمالا خطرناک‌تر از خود تسلیحات هسته‌ای خواهند بود. پیشرفت در هوش مصنوعی به طرز خارق العاده‌ای سریع رخ داده و تقریبا هیچ توجهی به مقررات ایمنی صورت نمی‌گیرد.   تنها زمان نشان خواهد داد که آیا پیشرفت‌های هوش مصنوعی در سالیان آینده نوشدارویی برای مشکلات جهانی خواهد بود یا هیولای فرانکنشتاینی که وجود بشر را تهدید می‌کند.

منبع: عصر ایران

کلیدواژه: هوش مصنوعی فرانکشتاین هوش مصنوعی چت جی پی تی سیستم ها شده اند داده ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.asriran.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «عصر ایران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۵۶۲۱۸۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

ضرورت تدوین کلان روندها برای طراحی آینده متناسب با زیست بوم ایران

 

به گزارش گروه آموزش و دانشگاه خبرگزاری علم و فناوری آنا، دکتر محمدرضا مخبر دزفولی، رئیس فرهنگستان علوم در شورای آینده نگاری فرهنگستان علوم اظهار کرد: فرهنگستان زمانی اثرگذار است که خودش را جزئی از ساختار اداره کشور بداند اما اگر خودش را جز اداره کشور نداند دیگر اثربخشی لازم را نخواهد داشت. ما باید به گونه‌ای عمل کنیم که سیاستمداران به ما اعتماد کنند.

وی افزود: اتفاقاتی که در حوزه علم در برخی از کشورها نظیر امارات متحده عربی می‌افتد متعلق به خود آنها نیست چراکه امارات هویت مستقل ندارد اما ظرف ایران بزرگ و متعلق به خودش است.

رئیس فرهنگستان علوم با بیان اینکه در برخی از حوزه‌‌‌ها خیلی خوب پیش رفتیم، ادامه داد: در پزشکی عقب‌ماندگی نداریم از بیمار تا دانشمند به کشور ما رفت و آمد دارند، در کشاورزی نیز 125 میلیون تن غذا در کشور تولید می‌شود، کدام یک ازکشورهای همسایه این میزان غذا تولید ‌می‌کند.

دکتر مخبر دزفولی گفت:‌ بخشی از مشکلات ما داخلی و بخشی خارجی است، باید ببینیم چه وضعیتی داریم سپس برای آینده برنامه‌ریزی کنیم. حواسمان باشد که نسبت به آینده امیدواری ایجاد کنیم البته در کنار آن باید واقعیت‌های کشور هم ببینیم.

رئیس فرهنگستان علوم ادامه داد: آینده‌نگاری در حوزه علم و فناوری دامنه‌ها و شاخه‌های گسترده‌ای دارد که به امنیت، رفاه و اقتصاد می‌رسد. برای آینده نگاری باید هدفمند برنامه‌ریزی داشته باشیم.

وی افزود: کلان روندهای علم در جهان و منطقه باید استخراج شود، برای زیست بوم ایران نیز این کلان روندها باید مشخص شود. 5 کلان روند امروز در جهان در حال شکل گیری است که باید مورد توجه باشد.

دکتر مخبر دزفولی بیان کرد: قدرت‌های جهانی نمی‌خواهند ایران مرجع باشد، می‌خواهند که جهان عرب در خاورمیانه فعال باشد، در این مسیر است که عربستان، قطر و امارات در حوزه علم و فناوری بودجه‌های زیادی را صرف می‌کنند. البته اتفاقاتی که در این کشورها در حال وقوع است، واقعی نیست و آن چیزی که در ایران است واقعی است چرا که دستاوردهای ما در حوزه‌های هسته‌ای، غذا، پزشکی متعلق به دانشمندان خودمان است. مرجعیت زمانی اتفاق می‌افتد که خدمات فنی و مهندسی ایرانی اتفاق بیفتد، کالای ایرانی تولید شود و محصولات ایرانی مرجع باشد.

رئیس فرهنگستان علوم تاکید کرد: در آینده نگاری باید مباحث عمیق‌تر و دقیق‌تر پیش رود، در این مسیر اگر مشکلاتی در اقتصاد داریم باید برای این مشکلات از سوی اندیشمندان فرهنگستان راه حل ارائه شود. از طرفی فرهنگستان علوم باید آنقدر توانمندی پیدا کند که مسئولان ناگزیر شوند که برای تصمیم‌های مهم با این نهاد مشورت کنند.

 

ضرورت آینده نگاری مبتنی بر ابعاد دینی و اخلاقی در ایران

در ادامه این نشست دکتر علی اکبر صالحی، معاون پژوهشی فرهنگستان علوم بیان کرد: آینده نگاری در ایران بُعد دینی و اخلاقی دارد، باید این بعد را جدی‌تر ببینیم تا مشخص شود که چه آینده‌ای مدنظرمان است.

وی ادامه داد: علمای شیعه در دورانی کنونی باید متمایز از سایرین عمل و زمینه آینده‌نگاری را فراهم کنند. مثلا در فناوری زیستی مباحث اخلاقی و شرعی ممکن است مطرح شود علما می‌توانند زمینه بحث در این زمینه‌ها را فراهم کنند.

عضو پیوسته فرهنگستان علوم با انتقاد از عدم پیشرفت ارتباط حوزه و دانشگاه گفت: ‌در زمینه ارتباط دانشگاه و صنعت اقدامات خوبی شده است که باید ادامه پیدا کند.

 

 

آینده‌نگاری منهای فهم عمیق از جهان امکان‌پذیر نیست

دکتر سید سعید رضا عاملی، عضو شورای عالی انقلاب فرهنگی نیز در این نشست گفت: خواستگاه آینده‌نگاری مهم است. باید ببینم آینده‌نگاری چه تناسبی با فرهنگستان علوم دارد؟ پس در ابتدا باید چارچوب مفهومی برای این کار ترسیم شود تا مبنای آینده نگاری در فرهنگستان علوم باشد. 

وی ادامه داد:‌آینده‌نگاری بدون فهم وضعیت موجود امکان پذیر نیست، آینده‌نگاری ریشه در گذشته و حال دارد. برای مسیر آینده نگاری باید جمع بندی از وضعیت فعلی داشته باشیم. آینده نگاری برای ایران منهای فهم عمیق از جهان امکان پذیر نیست، جهانی شدن ما را به فضای واحد  وصل کرده است بنابراین تاثیر می‌گذاریم و تاثیر می‌پذیریم.

عضو شورای عالی انقلاب فرهنگی گفت: بنابراین باید مشخص کنیم که چه اولویت هایی برای آینده نگاری داریم، فرهنگستان باید ابعاد علم و فناوری آینده را مشخص کند. چون همه چیز به فناوری متصل است. امروز بزرگترین کمپین ها موضوعشان محیط زیست است.

دکتر عاملی اضافه کرد: فناوری هسته ای خطر بزرگی است. از نظام قدرت جهانی نمی‌توان غافل شد باید آن را مدنظر داشت. فرهنگستان باید بر فناوری‌های نو نیز تمرکز کند چراکه گستره هوش مصنوعی زیاد است. منابع و سرمایه انسانی باید در آینده نگاری مدنظر باشد. در آینده نگاری موضوع غذا مهم است چراکه حیات بشر به غذا بستگی دارد.

وی بیان کرد: جنگ و صلح در آینده مهم است. 650 هزار دانش آموز غزه آواره شده‌اند، جنگ رحم ندارد همه را درگیر می‌کند. در مسیر آینده‌نگاری توجه به بحران‌ها نیز اهمیت دارد، یکی از بحران‌هایی که امروز جهان با آن مواجه است، بحران هویت است، هویت جنسی، ملی قومی و دینی مهم است توسعه جهان با ادغام هویتی مطرح است اما فرد باید بتواند خودش را تشخیص دهد.

عضو شورای عالی انقلاب فرهنگی عنوان کرد:‌ روش‌پژوهی در آینده‌نگاری باید صورت بگیرد تنوعی از روشها داریم باید بدانیم که میخواهیم چکار کنیم. روش‌های جدید بر روی مسئله احاطه دارد، باید وارد جزئیات شود و بتواند مرجع باشد.

انتهای پیام/