پروژه‌ای برای هوشمند‌سازی کنترل بر هوش‌مصنوعی

«ایلان‌ماسک» چهره شناخته شده‌ای است. همه ما با او و شرکت‌های تسلا، اسپیس ایکس و ... آشنا هستیم. مخترع، کارآفرین و میلیاردر بزرگی که خودروهای ساخت شرکتش شهرت جهانی دارند. هر‌چند ماسک در دنیای فناوری فرد شناخته شده‌ای است؛ اما در ارتباط با انتقادات صریح ‌و‌ روشنی که از هوش‌ مصنوعی می‌کند نیز شهرت دارد؛ اما به‌نظر می‌رسد ماسک این‌بار تصمیم گرفته تا خود به میدان وارد شود و همراه با چند نفر از بزرگان دنیای فناوری، سازمان ویژه‌ای را تأسیس کند.

سازمانی که قرار است در زمینه مدیریت، کنترل و حفظ امنیت مردم در ارتباط با هوش‌مصنوعی به فعالیت بپردازد. قرار است شرکت وای‌کامبینیتور (Y Combinator) نیز در این راه به او کمک ‌کند. یک شتاب‌دهنده بین‌المللی استارت‌آپ‌ها که در حوزه سرمایه‌گذاری، پرورش ایده‌ها و مشاوره به شرکت‌های نوبنیان کمک می‌کند. این شرکت تاکنون توانسته است به بیش از 500 شرکت در صنایع مختلف، مشاوره‌های لازم را ارائه کند. سایت فوربس در سال 2013 این شرکت را یکی از برترین مراکز شتاب‌دهنده استارت‌آپ‌ها معرفی کرد. اکنون ایلان ‌ماسک و شرکت وای‌کامبینیتور تصمیم گرفته‌اند تا با کمک یکدیگر، سازمان جدیدی به نام OpenAI تأسیس کنند. سازمانی که قرار است به یک آزمایشگاه هوش‌مصنوعی بزرگ تبدیل شود، شبیه به رویکردی که این روزها از سوی مایکروسافت، گوگل، آی‌بی‌‌ام و ... دنبال می‌شود. آن‌ها در نظر دارند بعد از تأمین بودجه لازم و انجام تحقیقات گسترده در این حوزه، جزئیات دستاورد خود را در اختیار مردم قرار دهند؛ اما به‌راستی سازمان آن‌ها چه دستاوردی را برای دنیای فناوری و از همه مهم‌تر برای بشریت به‌همراه خواهد آورد؟ در این مقاله به این دو پرسش پاسخ خواهیم داد.

اگر فکر می‌کنید فضای موجود در حوزه هوش‌مصنوعی به اندازه کافی رقابتی نیست، باید بدانید غول‌های بزرگ دنیای فناوری هم‌چون گوگل، اپل، فیس‌بوک، مایکروسافت و حتی شرکت‌های بزرگ خودروسازی مانند تویوتا در تلاش هستند تا پژوهشگران این حوزه را استخدام کنند. این تحولات عظیم، عصری جدیدی را در مطالعات هوش‌مصنوعی نوید می‌دهد؛ اما در این میان یک سازمان غیرانتفاعی به نام OpenAI از یازده دسامبر سال 2015 میلادی کار خود را آغاز کرد. سازمانی که وعده داده است نتایج حاصل از تحقیقات، حق امتیاز ثبت اختراعات و بسیاری دیگر از اطلاعات خود را به‌صورت رایگان در اختیار مردم قرار دهد. این سازمان هدف از این کار را کنترل هوش‌مصنوعی بیان کرده است، با این امید که چشم‌انداز ترسناک حضور کامپیوترها و رایانه‌هایی که هوش‌مصنوعی آن‌ها فراتر از هوش‌انسانی هستند، موجب ترس و نگرانی مردم نشود؛ اما در این سازمان چه افرادی کار می‌کنند؟ در این سازمان مشاهیر بزرگ دنیای فناوری هم‌چون ایلان ماسک، رید هافمن، پیتر تیل، جسیکا لیوینگستون، گرگ برکمن، ویکی چونگ، پاملا، گاتا و بسیاری دیگر به فعالیت مشغول هستند؛ همچنین آمازون همراه با خدمات ابری و وب خود در این زمینه به سازمان OpenAI کمک می‌کند. آن‌ها در این زمینه در مجموع بیش از یک میلیارد دلار را در قالب یک برنامه بلند‌مدت سرمایه‌گذاری خواهند کرد. ریاست این سازمان به‌طور مشترک بر عهده ایلان‌ماسک و سام‌آلتمن مدیرعامل شرکت وای‌کامبینیتور است. آلتمن پیش از این نیز یک گروه تحقیقاتی را به نام خودش پایه‌ریزی کرده بود. 

از ماسک، همواره به‌عنوان یک منتقد شناخته‌شده هوش‌مصنوعی یاد می‌شود، در نتیجه جای تعجب ندارد که او در چنین سازمانی، سمت مدیریت را عهده‌دار باشد؛ اما در مورد شرکت وای‌کامبینیتور، این خبر کمی تعجب‌برانگیز است. یک شتاب‌دهنده دنیای فناوری که 10 سال پیش، کار خود را در قالب یک پروژه مشاوره‌ای با شش شرکت استارت‌آپی آغاز کرد. این شرکت عمدتا در زمینه افزایش سوددهی و سرعت بخشیدن به استارت‌آپ‌ها در جهت رشد سریع کمک می‌کند و در مقابل این توصیه‌ها، پنج درصد از سهام استارت‌آپ‌ها را به تملک خود در‌می‌آورد. YC‌ اکنون نزدیک به 1000 مشتری استارت‌آپی دارد که از آن جمله می‌توان به دراپ‌باکس، Airbnb و  Stripe   اشاره کرد. در دو سال گذشته، آلتمن مدیرعامل YC هدایت شرکت Loopt را نیز بر عهده داشت. شرکتی که در سال 2005 جزء شرکت‌های طراز اول جهان شناخته شد. او در نهایت در سال 2012 این شرکت را به ارزش 43.4 میلیون دلار فروخت. هر چند YC و آلتمن تأمین کنندگان مالی سازمان OpenAI  هستند و آلتمن جزء رؤسای رده بالای این سازمان به شمار می‌رود؛ اما ساختار OpenAI به‌گونه‌ای پایه‌ریزی شده است که توانایی جذب سرمایه‌گذارهای مستقل را دارد.

اما OpenAI دقیقا چگونه سازمانی است؟
اساساً OpenAI  یک آزمایشگاه تحقیقاتی برای مقابله با شرکت‌های بزرگی است که ممکن است برای سودآوری بیشتر، قدرت بیش از حدی را به سیستم‌های فوق‌العاده هوشمند تخصیص دهند. این سازمان همچنین در نظر دارد به مقابله با دولت‌هایی بپردازد که ممکن است از حربه هوش‌مصنوعی برای به‌دست‌آوردن قدرت بیشتر و حتی سرکوب شهروندان خود استفاده کنند. این تعریف ممکن است کمی آرمان‌گرایانه باشد؛ اما این تیم امیدوار است تا در این راه، نتایج قابل توجهی به دست آورد؛ به‌نظر می‌رسد سازمان OpenAI در کار خود موفق خواهد بود، به این دلیل‌که از همان ابتدای کار چهره‌های برجسته‌ای را جذب کرده که می‌توان به گرگ‌برکمن مدیر ارشد فناوری در شرکت Stripe  اشاره کرد. برکمن در سازمان OpenAI همچنان با سمت مدیر ارشد فناوری مشغول به‌کار است. این سازمان همچنین موفق شده است ایلیا‌ ساسیکور را متقاعد کند تا در این سازمان مشغول به‌کار شود. او فردی است که پیش از این در گوگل و در زمینه هوش‌مصنوعی مشغول فعالیت بوده و زمینه کاری او، یادگیری ماشینی است. ساسیکور از جمله افرادی است که موفق شد یک گروه معروف از دانشمندان جوان در حوزه مطالعه شبکه‌های عصبی و را تحت عنوان Geoff Hinton در تورنتو گرد‌هم آورد. مدیریت تحقیقات این سازمان بر‌عهده برکمن است. از دیگر افراد فعال در این سازمان می‌توان به استعدادهای جوانی اشاره کرد که رزومه آن‌ها در دانشگاه‌های برتر جهان، فیس‌بوک و DeepMind قرار دارد. از اعضای هیئت‌مدیره این شرکت می‌توان به چهره‌های سرشناس و برجسته‌ای مانند آلن‌کی اشاره کرد که از جمله دانشمندان پیشگام در حوزه علوم کامپیوتر است. در حالی که این سازمان سعی دارد نتایج حاصل از تحقیقات خود را به‌صورت رایگان در اختیار عموم مردم قرار دهد؛ اما در طرف دیگر، رهبران OpenAI  قرار دارند. رهبرانی که با روی بازوگشاده در مورد پروژه‌ها و اهداف خود صحبت می‌کنند. ما در این مقاله به مصاحبه‌ای که آلتمن، ماسک و برکمن در این زمینه انجام داده‌اند، نگاهی خواهیم داشت؛ البته با توجه به فضای محدود، سعی کرده‌ایم محورهای اصلی این مصاحبه‌ها را بررسی کنیم. 

ایده شکل‌گیری این سازمان چگونه بود؟
سام آلتمن: ما حدود یک ماه و نیم پیش بخش تحقیقات YC را راه‌اندازی کردیم؛ اما من و ایلان از مدت‌ها قبل به فکر هوش‌مصنوعی بودیم. اگر شما در مورد موضوعات بسیار مهمی که بر آینده جهان تأثیرگذار هستند، کمی تامل کنید، بدون شک به هوش‌مصنوعی خواهید رسید؛ چرا‌که که به لحاظ تأثیرگذاری بر جهان، رتبه نخست را دارد. بنابراین تصمیم گرفتیم سازمان OpenAI را تأسیس کنیم. OpenAI یک سازمان غیرانتفاعی است و به همه جهان تعلق دارد وبه همین دلیل تلاش می‌کند تا روند توسعه هوش‌مصنوعی را در مسیر درستی به جلو ببرد؛ به‌طوری که هوش‌مصنوعی تعامل سازنده و مثبتی با انسان‌ها داشته باشد.

ایلان‌ ماسک: همان‌طور که می‌دانید، مدت‌ها است درخصوص هوش‌مصنوعی نگران هستم و در گفتگوهای مختلفی که با سام، هافمن، تیل و دیگران داشتم، اطلاع پیدا کردم که همه ما در این زمینه هم‌عقیده هستیم. ما در صحبت‌هایی که با یکدیگر داشتیم، به این موضوع فکر می‌کردیم که آیا راهی وجود دارد تا مطمئن شویم که آیا امکان به‌کارگیری هوش‌مصنوعی در یک شیوه مفید و مثبت وجود دارد و می‌توان هوش‌مصنوعی را در این زمینه توسعه داد؟ حاصل تبادل نظرهای ما با یکدیگر باعث شد به فکر راه‌اندازی یک سازمان غیرانتفاعی باشیم. یک سازمان غیر‌انتفاعی که دیدگاهش به دست آوردن حداکثر سود نباشد؛ بلکه دستاوردهای خوبی در این زمینه ارائه کند. تمرکز اصلی ما در این سازمان، بر ایمن‌سازی این فناوری استوار است. به لحاظ فلسفی ما به یک ایده مهم فکر می‌کنیم و آن اینکه چگونه می‌توانیم هوش‌مصنوعی را گسترش دهیم. 

اراده انسانی؟
ماسک: هر فردی در یک هم‌زیستی طبیعی از هوش خود استفاده می‌کند، درحالی‌که درخصوص هوش‌مصنوعی این موضوع، در قالب یک مرکز اطلاعات بزرگ کار می‌کند. رویکردی که کاملا با مدل انسانی در تضاد است. اجازه دهید این مورد را با ذکر مثالی نشان دهم؛ شما درباره نحوه استفاده از یک‌‌سری موضوعات فکر می‌کنید، برای مثال چگونه می‌توانیم از برنامه‌های کاربردی که روی اینترنت قرار دارند، یا ایمیل‌هایی که دریافت کرده‌ایم و از شبکه‌های اجتماعی همراه با برنامه‌هایی که روی اسمارت‌فون‌مان قرار دارد، استفاده کنیم؟ ابزارهایی که به‌طور مؤثری شما را تبدیل به یک انسان مافوق بشری می‌کنند. شما درباره این موضوعات در قالب یک روند توسعه فکر می‌کنید، در این حالت شما بر این امور کنترل دارید و می‌دانید در هر یک از حوزه‌ها، تا چه میزان باید وارد شوید؛ به عبارت دیگر، بر هوش خود کنترل دارید؛ اما در ارتباط با هوش‌مصنوعی ما باید به فکر درجه‌ای از هدایت باشیم. یک کنترل ویژه که در انجام کارها به هوش‌مصنوعی کمک کند. ما موفق شدیم تعداد زیادی از مهندسان هم‌فکر و محققان فعال در حوزه هوش‌مصنوعی را که چنین دیدگاهی دارند پیدا کنیم.
آلتمن: ما فکر می‌کنیم بهترین راه توسعه هوش‌مصنوعی، در توانمندسازی فردی ‌و ‌انسانی و دسترسی آزادانه همه به آن قرار دارد، نه اینکه یک موجودیت واحد که یک میلیون بار قوی‌تر از هر انسانی است را تولید کرده و کنترل را به او واگذار کنیم. از آن‌جا که رویکرد شرکت ما مبتنی بر کسب حداکثری سودآوری نیست، در نتیجه مانند گوگل، تمرکز اصلی ما روی این موضوع نیست که سهام‌داران خود را سودمندتر کنیم. آن‌چه ما بر آن باور داریم این است که این بهترین اتفاقی است که برای آینده بشریت رخ خواهد داد.

آیا گوگل پیشرفت‌هایی را که در این زمینه به دست آورده است با مردم به اشتراک نمی‌گذارد؟ همانند کاری که در ارتباط با یادگیری ماشینی انجام داده است؟ 
آلتمن: آن‌ها قطعا سهم زیادی از تحقیقات خود را به اشتراک گذاشته‌‌اند. همان‌طور که زمان در حرکت است، هوش‌مصنوعی به سرعت به هوش انسانی نزدیک‌تر خواهد شد و سرانجام از آن پیشی خواهد گرفت؛ اما سؤال اصلی این است که گوگل در این راه تا چه اندازه تحقیقات خود را با آحاد جامعه به اشتراک خواهد گذاشت؟ 

آیا تحقیقات شما در حوزه هوش‌مصنوعی باعث می‌شود هوش انسانی قدرتمندتر شود؟
آلتمن: من انتظار دارم که این اتفاق رخ دهد؛ اما این فقط یک پروژه منبع باز است که توسط همه مردم قابل استفاده است. هر چیزی که در اختیار گروه توسعه دهندگان قرار گرفته باشد، در اختیار عموم مردم نیز قرار خواهد گرفت. اگر از پروژه‌های این شرکت در کارهای خود استفاده کردید، ضرورتی ندارد تا آن‌را به اشتراک بگذارید؛ اما در ارتباط با مدل کاری ما، OpenAI دستاورد هر کاری که انجام می‌دهد ‌را در اختیار همگان قرار خواهد داد. 

آیا شما بر آن‌چه که در قالب تحقیقات OpenAI منتشر می‌شود نظارت دارید؟
آلتمن: ما بر هر‌آن‌چه ساخته خواهد شد، نظارت می‌کنیم؛ اما اکنون در آغاز راه هستیم. ما هنوز تا مرحله‌ای که بتوانیم هوش‌مصنوعی را به‌طور واقعی توسعه دهیم، راه طولانی در پیش داریم. تصور من این است که مقدار زیادی از زمان ما صرف نظارت بر چیزی است که ساخته می‌شود.
ماسک: من در نظر دارم زمان مشخصی را با تیم تحقیقاتی سپری کنم، من هر هفته یا هر دو هفته یک‌بار بعداز ظهر در دفتر سازمان حضور خواهم داشت. این‌کار به من کمک می‌کند تا اولاً نظرات خود را به گروه منتقل کنم و ثانیا درک عمیق‌تری از آن چیزی که در جریان است و ممکن است ما را به خطر نزدیک‌تر کند به‌دست آورم. من قصد دارم به شخصه در زمینه امنیت کاملاً آگاه باشم. این چیزی است که درباره آن کاملاً نگران هستم؛ اگر ما موضوعی کشف کنیم و احساس کنیم که پتانسیل تبدیل شدن به خطر را دارد، بدون شک این موضوع را به‌طور عمومی اطلاع‌رسانی خواهیم کرد. 

آیا می‌توانید یک مثال از خطرات هوش‌مصنوعی را بیان کنید؟
آلتمن: خوب، هر آن چیزی که در داستان‌های علمی تخیلی مشاهده کرده‌اید و برای سال‌ها مسکوت مانده است، نمونه‌ای از این مخاطرات به‌شمار می‌رود. فیلم ترمیناتور یا چیزی شبیه به آن مصداق خوبی در این زمینه است. هر آن چیزی که تصور می‌کنیم، پتانسیل تبدیل شدن به یک چالش را دارد و این دقیقاً همان جنبه منفی هوش‌مصنوعی است. اتوماسیونی‌شدن فعالیت‌ها و حذف بسیاری از شغل‌ها از جمله این موارد به‌شمار می‌روند. نمونه دیگر، برنامه‌هایی هستند که به مراتب بهتر از هر انسانی به ایفای نقش می‌پردازند. برنامه‌هایی که از مدت‌ها قبل کار خود را آغاز کرده‌اند. 

آیا شما کار خود را با سیستمی که از قبل ساخته شده است شروع می‌کنید؟
آلتمن: نه. این سازمان قرار است کار خود را مانند هر آزمایشگاه تحقیقاتی آغاز کند. قرار است این سازمان در بلند‌مدت، مثل یک آزمایشگاه تحقیقاتی شناخته شود. هیچ‌کس نمی‌داند این‌کار چگونه انجام خواهد شد. در حال حاضر ما با هشت محقق کار را آغاز کرده‌ایم؛ اما در چند ماه آینده افراد دیگری نیز به ما محلق خواهند شد. اکنون آن‌ها از فضای اداری YC استفاده می‌کنند و زمانی که تعداد افزایش یافت، آن‌ها در محل مدنظر خود مستقر می‌شوند. آن‌ها در نظر دارند کار خود را با ایده‌ها و نوشتن نرم‌افزارهایی آغاز کنند تا ببینند آیا این توانایی را دارند تا تغییری در وضعیت فعلی هوش‌مصنوعی و پیشبرد آن به وجود آورند یا خیر؟

آیا کمک‌هایی از خارج از سازمان دریافت می‌کنید؟
آلتمن: کاملاً. یکی از مزایای این پروژه منبع باز بودن آن است، آزمایشگاهی که به هر فردی این توانایی را می‌دهد تا با آن مشارکت داشته باشد، در نتیجه اطلاعات به‌صورت رایگان در اختیار افراد قرار می‌گیرد. این در حالی است که همکاری با کارکنان شرکت گوگل بسیار سخت است؛ زیرا این شرکت در ارتباط با محرمانگی اطلاعات، مقررات سخت‌گیرانه‌ای اتخاذ می‌کند. 

این آزمایشگاه ممکن است چه نوع داده‌ای را به اشتراک بگذارد؟ 
آلتمن: داده‌های زیادی به اشتراک گذاشته می‌شوند. یک بسته آموزشی مثال خوبی در این زمینه است. 
تصور کنید اطلاعات ویدویی مربوط به ماشین‌های خودران شرکت تسلا چقدر با ارزش است؛ ما در نظر داریم حجم بسیار زیادی از داده‌های مهم را به اشتراک بگذاریم؛ اگر شما در این زمینه فکر کنید که انسان‌ها چگونه می‌توانند باهوش‌تر شوند، در نتیجه به مطالعه یک کتاب می‌پردازید، همین موضوع شما را باهوش‌تر می‌کند. زمانی که ما به این مسئله آگاه شویم، شروع به مطالعه یک کتاب می‌کنیم و به این شکل سطح هوشمندی ما افزایش پیدا می‌کند؛ اما این بدان معنا نیست که اگر شخصی کتابی را مطالعه کرد، همان کتاب بتواند من را نیز باهوش‌تر کند؛ به‌طور مثال، اگر شخصی در تسلا چیزی را در ارتباط با یک ساختار جدید یاد بگیرد، هر شخصی که در این شرکت کار کند فورا از مزایای این ساختار جدید استفاده کرده و باهوش‌تر خواهد شد.

ماسک: به‌طور کلی ما در حال حاضر با حجم انبوهی از برنامه‌های ویژه روبرو نیستیم؛ چرا که اکنون این سازمان در مراحل اولیه خود به‌سر می‌برد و همانند یک نوزاد است؛ اما بدون شک تسلا حجم بسیار زیادی از داده‌های دنیای واقعی را در اختیار دارد؛ چرا که میلیون‌ها مایل سفر با استفاده از خورودهای ساخت این شرکت انجام شده است. احتمالا تسلا در زمینه وسایل نقلیه بیش از دیگر شرکت‌های جهان به داده‌های دنیای واقعی دسترسی دارد.

هوش‌مصنوعی برای انجام محاسبات خود نیازمند زیرساخت‌های لازم است، این زیرساخت‌ها چگونه تأمین می‌شوند؟ 
آلتمن: ما در حال همکاری با بخش سرویس تحت وب سایت آمازون هستیم. آن‌ها مقدار زیادی از زیرساخت‌های خود را در اختیار ما قرار داده‌اند.

یک میلیاردر متعهد در پس زمینه این داستان وجود دارد؟
ماسک: من فکر می‌کنم منصفانه است بگوییم متعهد بودن در واقع بخشی از تعهدات یک میلیاردر در قبال جهان است؛ اما واقعیت این است که اکنون افراد صاحب نفوذی که اسم آن‌ها در وبلاگ شرکت آماده است، با ما همکاری می‌کنند.

این پروژه چه مدت به‌طول خواهد انجامید؟ 
آلتمن: این پروژه‌ای نیست که بتوان آن‌را در کوتاه مدت به سرانجام رساند. کامل شدن این پروژه احتمالاً چند دهه به‌ طول می‌انجامد، چون به کارشناسان زیاد و سخت‌افزارهای زیادی نیاز دارد.

آیا ضرورتی ندارد که این پروژه پولساز  باشد؟ 
ماسک: حرف شما صحیح است؛ اما واقعیت این است که این سرمایه‌گذاری برای جذب سود نیست. این امکان وجود دارد که در آینده به عنوان یک منبع جذب درآمد باشد، همانند الگویی که مؤسسه تحقیقاتی استنفورد از آن کسب درآمد می‌کند. در نتیجه این احتمال وجود دارد که در آینده این سازمان به فکر کسب درآمد نیز باشد.