هفت گناه کشنده پیش بینی های AI

برون یابی های اشتباه ، تخیل محدود و سایر اشتباهات رایج که ما را از تفکر بیشتر در مورد آینده دور می کند.

• صفحه بایگانی رودنی بروکس

6 اکتبر 2017

جوست سورته

ما در مورد آینده هوش مصنوعی و روباتیک با هیستری احاطه شده ایم - هیستری درباره اینکه چقدر قدرتمند می شوند ، چقدر سریع و چه کاری با مشاغل انجام می دهند.

من اخیراً داستانی را در MarketWatch دیدم که می گوید روبات ها در 10 تا 20 سال نیمی از مشاغل امروز را به خود اختصاص می دهند. حتی برای اثبات اعداد گرافیکی داشت.

این ادعاها مضحک است.(من سعی می کنم زبان حرفه ای را حفظ کنم ، اما گاهی اوقات ...) به عنوان مثال ، داستان به نظر می رسد که ما از یک میلیون زمین و کارگران تعمیر و نگهداری در ایالات متحده به تنها 50،000 در 10 تا 20 سال خواهیم رفت ، زیرا روبات ها این مشاغل را به دست می گیرندبشرچند روبات در حال حاضر در آن مشاغل عملیاتی هستند؟صفرچند تظاهرات واقع بینانه از روبات هایی که در این عرصه کار می کنند وجود داشته است؟صفرداستانهای مشابه برای همه دسته های دیگر اعمال می شود که در آن پیشنهاد می شود بیش از 90 درصد از مشاغل را که در حال حاضر در برخی از سایت های خاص به حضور فیزیکی نیاز دارند ، پایان خواهیم داد.

پیش بینی های اشتباه منجر به ترس از اتفاقاتی می شود که اتفاق نمی افتد ، خواه تخریب گسترده مشاغل ، تکینگی یا ظهور هوش مصنوعی باشد که ارزش های دیگری با ما دارد و ممکن است سعی کند ما را نابود کند. ما باید به این اشتباهات برگردیم. اما چرا مردم آنها را درست می کنند؟من هفت دلیل مشترک را می بینم.

1. بیش از حد ارزیابی و دست کم گرفتن

روی آمارا بنیانگذار مؤسسه آینده بود ، در پالو آلتو ، قلب روشنفکر دره سیلیکون. او بیشتر به خاطر اعتراض خود که اکنون به عنوان قانون Amara گفته می شود شناخته شده است:

ما تمایل داریم تأثیر یک فناوری را در کوتاه مدت بیش از حد ارزیابی کنیم و اثر را در دراز مدت دست کم بگیریم.

در این 21 کلمه چیزهای زیادی پیچیده شده است. یک خوشبین می تواند آن را به یک روش بخواند ، و یک بدبین می تواند آن را دیگری بخواند.

یک نمونه عالی از دو طرف قانون Amara ، سیستم موقعیت یابی جهانی ایالات متحده است. با شروع از سال 1978 ، صورت فلکی 24 ماهواره (اکنون 31 مورد شامل قطعات یدکی) در مدار قرار گرفتند. هدف GPS اجازه تحویل دقیق مهمات توسط ارتش آمریكا بود. اما این برنامه تقریباً در دهه 1980 دوباره و دوباره لغو شد. اولین استفاده عملیاتی برای هدف مورد نظر خود در سال 1991 در هنگام طوفان بیابانی بود. چندین موفقیت دیگر برای ارتش برای پذیرش ابزار خود به طول انجامید.

2. تصور جادو

هنگامی که من نوجوان بودم ، آرتور سی کلارک یکی از نویسندگان علمی تخیلی "سه بزرگ" به همراه رابرت هاینلین و اسحاق آسیموف بود. اما کلارک همچنین مخترع ، نویسنده علوم و آینده نگر بود. بین سالهای 1962 و 1973 او سه آگهی را تدوین کرد که به عنوان سه قانون کلارک شناخته شده اند:

وقتی یک دانشمند متمایز اما سالخورده اظهار می دارد که چیزی ممکن است ، او تقریباً درست است. وقتی او اظهار داشت که چیزی غیرممکن است ، او احتمالاً اشتباه است.

تنها راه کشف محدودیت های ممکن ، عبور از راه کمی از آنها به غیرممکن است.

هر فن آوری به اندازه کافی پیشرفته غیر قابل تشخیص از سحر و جادو است.

من شخصاً احتمالاً باید در قانون اول خود از جمله دوم احتیاط کنم ، زیرا من بسیار محافظه کارتر از برخی دیگر در مورد سرعت صعود هوش مصنوعی هستم. اما در حال حاضر من می خواهم در مورد قانون سوم کلارک توضیح دهم.

تصور کنید که ما یک ماشین زمان داشتیم و می توانستیم اسحاق نیوتن را از اواخر قرن هفدهم تا امروز حمل کنیم و او را در مکانی قرار دهیم که برای او آشنا باشد: کلیسای Trinity Chapel در دانشگاه کمبریج.

اکنون نیوتن را به یک سیب نشان دهید. یک آیفون را از جیب خود بیرون بکشید و آن را روشن کنید تا صفحه نمایش درخشان و پر از نمادها باشد و آن را به او تحویل دهید. نیوتن ، که فاش کرد چگونه با جدا کردن نور خورشید با منشور و سپس قرار دادن دوباره آن ، از اجزای نور رنگ مختلف ساخته می شود ، بدون شک از چنین شیء کوچکی که چنین رنگهای زنده ای را در تاریکی نمازخانه تولید می کند تعجب می کند. بشراکنون فیلمی از یک صحنه کشور انگلیسی بازی کنید ، و سپس برخی از موسیقی های کلیسایی که او می شنید. و سپس به او یک صفحه وب را با صفحات 500 به علاوه از نسخه شخصی خود از شاهکار خود Principia Principia نشان دهید ، و به او آموزش می دهد که چگونه از ژست خرج برای بزرگنمایی جزئیات استفاده کند.

3. عملکرد در مقابل صلاحیت

همه ما از نشانه هایی در مورد چگونگی انجام کارهای خاص برای تخمین چگونگی انجام کارهای متفاوت استفاده می کنیم. در یک شهر خارجی از یک غریبه در خیابان می خواهیم جهت راهنمایی ها را بپرسیم ، و او با اعتماد به نفس و با راهنمایی هایی که به نظر می رسد معقول است ، پاسخ می دهد ، بنابراین می دانیم که می توانیم از سیستم محلی برای پرداخت وقتی می خواهید اتوبوس بپردازید ، بپرسیم.

حال فرض کنید شخصی به ما می گوید که یک عکس خاص افرادی را نشان می دهد که در پارک بازی می کنند. ما به طور طبیعی فرض می کنیم که این شخص می تواند به سؤالاتی مانند شکل Frisbee پاسخ دهد؟تقریباً چقدر می تواند یک فرد فریزبی را پرتاب کند؟آیا شخصی می تواند یک frisbee بخورد؟تقریباً چند نفر به طور همزمان فریزبی بازی می کنند؟آیا یک شخص سه ماهه می تواند Frisbee را بازی کند؟آیا هوای امروز برای بازی Frisbee مناسب است؟

رایانه هایی که می توانند تصاویر مانند "افرادی که در یک پارک بازی می کنند" برچسب گذاری کنند ، هیچ فرصتی برای پاسخ به این سؤالات ندارند. علاوه بر این واقعیت که آنها فقط می توانند تصاویر بیشتری را برچسب گذاری کنند و به هیچ وجه نمی توانند به سؤالات پاسخ دهند ، آنها نمی دانند که یک شخص چیست ، که پارک ها معمولاً در خارج هستند ، که افراد سنین دارند ، این آب و هوا چیزی بیشتر از نحوه ظاهر عکس است ،و غیره.

این بدان معنا نیست که این سیستم ها بی فایده هستند. آنها برای موتورهای جستجوگر از اهمیت زیادی برخوردار هستند. اما این همان چیزی است که اشتباه می شود. مردم می شنوند که برخی از ربات ها یا برخی از سیستم های هوش مصنوعی وظیفه خود را انجام داده اند. آنها سپس از آن عملکرد تا صلاحیتی که می توان از شخصی که همان وظیفه را انجام می دهد ، تعمیم دهند. و آنها این تعمیم را در سیستم ربات یا هوش مصنوعی به کار می برند.

روبات ها و سیستم های هوش مصنوعی امروز در کاری که می توانند انجام دهند بسیار باریک هستند. تعمیم به سبک انسان اعمال نمی شود.

4. کلمات چمدان

ماروین مینسکی کلماتی را که دارای معانی متنوعی است "کلمات چمدان" نامید."یادگیری" یک کلمه چمدان قدرتمند است. این می تواند به انواع مختلفی از تجربه اشاره داشته باشد. یادگیری استفاده از chopsticks یک تجربه بسیار متفاوت از یادگیری آهنگ یک آهنگ جدید است. و یادگیری نوشتن کد یک تجربه بسیار متفاوت از یادگیری راه خود در یک شهر است.

وقتی مردم می شنوند که یادگیری ماشین در برخی از حوزه های جدید گام های بزرگی را انجام می دهد ، آنها تمایل دارند به عنوان یک الگوی ذهنی از روشی که شخص آن دامنه جدید را یاد می گیرد استفاده کند. با این حال ، یادگیری ماشین بسیار شکننده است ، و نیاز به آماده سازی زیادی توسط محققان یا مهندسان انسانی ، برنامه نویسی با هدف خاص ، مجموعه های خاص با هدف داده های آموزش و ساختار یادگیری سفارشی برای هر حوزه مشکل جدید دارد. یادگیری ماشین امروز به هیچ وجه یادگیری اسفنجی مانند که انسان در آن شرکت می کند ، نیست و پیشرفت سریع در یک دامنه جدید بدون نیاز به تغییر جراحی یا هدفمند ایجاد می کند.

به همین ترتیب ، وقتی مردم می شنوند که یک کامپیوتر می تواند قهرمان شطرنج جهان (در سال 1997) یا یکی از بهترین بازیکنان جهان (در سال 2016) را شکست دهد ، آنها فکر می کنند که این بازی "بازی" را دقیقاً مانند یک انسان انجام می دهد. البته ، در واقعیت ، این برنامه ها هیچ تصوری نداشتند که یک بازی در واقع چیست ، یا حتی که آنها بازی می کردند. آنها همچنین بسیار کمتر سازگار بودند. هنگامی که انسان یک بازی انجام می دهد ، تغییر کوچک در قوانین آنها را از بین نمی برد. برای Alphago یا Deep Blue چنین نیست.

کلمات چمدان مردم را در مورد چگونگی عملکرد ماشین ها در کارهایی که افراد می توانند انجام دهند ، گمراه می کنند. این تا حدودی به این دلیل است که محققان هوش مصنوعی - و از همه بدتر ، دفاتر مطبوعاتی نهادی آنها - مشتاق هستند که در نمونه ای از مفهوم چمدان پیشرفت کنند. عبارت مهم در اینجا "یک نمونه" است. این جزئیات به زودی گم می شود. عناوین کلمه چمدان را ترومپت می کنند ، و درک کلی از اینکه AI را در کجا قرار می دهد و دستیابی به موفقیت بیشتر است.

5. نمایی

بسیاری از افراد از یک مورد شدید "نمایی" رنج می برند.

همه در مورد قانون مور ایده ای دارند ، که نشان می دهد رایانه ها در یک برنامه شبیه به ساعت کار بهتر و بهتر می شوند. آنچه گوردون مور در واقع گفت این بود که تعداد مؤلفه هایی که می توانند روی میکروچیپ قرار بگیرند هر سال دو برابر می شود. این 50 سال صادق بود ، اگرچه زمان ثابت دو برابر شدن به تدریج از یک سال به بیش از دو سال طولانی می شود و این الگوی به پایان می رسد.

دو برابر شدن اجزای موجود در تراشه باعث شده است که رایانه ها به طور مداوم دو برابر شوند. و این منجر به تراشه های حافظه شده است که هر دو سال یک بار در ظرفیت است. همچنین منجر به دوربین های دیجیتال شده است که وضوح بهتری و بهتر دارند و صفحه نمایش LCD با پیکسل های نمایی بیشتر.

دلیل کار قانون مور این است که برای انتزاع دیجیتالی یک سوال واقعی یا فلس اعمال می شود. در هر مدار معین ، آیا بار الکتریکی یا ولتاژ در آنجا وجود دارد یا خیر؟پاسخ واضح است زیرا اجزای تراشه کوچکتر و کوچکتر می شوند - تا زمان مداخله فیزیکی ، و ما به اجزای آنقدر با الکترونهای کمی که اثرات کوانتومی شروع به تسلط می کنند ، پایین می آییم. اینجاست که اکنون ما با فناوری تراشه مبتنی بر سیلیکون هستیم.

هنگامی که مردم از نمایی رنج می برند ، ممکن است فکر کنند که نمایی که برای توجیه یک استدلال از آنها استفاده می کنند ، ادامه می یابد. اما قانون مور و سایر قوانین به ظاهر نمایی می توانند شکست بخورند زیرا در وهله اول واقعاً نمایی نبودند.

در قسمت اول این قرن ، هنگامی که من آزمایشگاه کامپیوتر و اطلاعات هوش مصنوعی MIT را در حال اجرا بودم (CSAIL) و نیاز به جمع آوری پول برای بیش از 90 گروه تحقیقاتی مختلف داشتم ، سعی کردم از افزایش حافظه در iPods استفاده کنم تا حامیان مالی را نشان دهم که چگونه امورخیلی سریع تغییر می کردند. در اینجا داده هایی در مورد میزان ذخیره سازی موسیقی در iPod با قیمت 400 دلار یا کمتر آورده شده است:

سال

گیگ

سپس من چند سال از خارج خارج می شدم و می پرسم که با تمام آن خاطره در جیب های خود چه می کنیم.

با استفاده از امروز ، ما انتظار داریم 400 دلار iPod 160،000 گیگ حافظه داشته باشد. اما آیفون برتر امروز (که بیش از 400 دلار هزینه دارد) تنها 256 گیگ حافظه دارد که کمتر از دو برابر ظرفیت iPod 2007 است. این نمایی خاص به محض رسیدن مقدار حافظه به جایی که به اندازه کافی بزرگ بود ، می توان کتابخانه موسیقی و برنامه ها ، عکس ها و فیلم ها را به اندازه کافی بزرگ کرد ، به طور ناگهانی فرو ریخت. در صورت ضربه به حد جسمی ، یا هنگامی که دلیل اقتصادی دیگری برای ادامه آنها وجود نداشته باشد ، نمایی می تواند سقوط کند.

به همین ترتیب ، ما به لطف موفقیت یادگیری عمیق ، شاهد افزایش ناگهانی عملکرد سیستم های هوش مصنوعی هستیم. به نظر می رسد بسیاری از افراد فکر می کنند این بدان معنی است که ما همچنان به طور منظم عملکرد AI را با چند برابر افزایش خواهیم داد. اما موفقیت یادگیری عمیق 30 سال در ساخت بود و یک رویداد منزوی بود.

این بدان معنا نیست که اتفاقات منزوی بیشتری رخ نخواهد داد ، جایی که کار از آبهای پشتی تحقیقات هوش مصنوعی ناگهان باعث افزایش سریع مرحله عملکرد بسیاری از برنامه های هوش مصنوعی می شود. اما هیچ "قانونی" وجود ندارد که می گوید چند بار اتفاق می افتد.

6. سناریوهای هالیوود

طرح برای بسیاری از فیلم های علمی تخیلی هالیوود این است که جهان دقیقاً مانند امروز است ، به جز یک پیچ و تاب جدید.

در مرد دوسالانه ، ریچارد مارتین ، با بازی سام نیل ، صبحانه را می نشیند و با یک روبات در حال پیاده روی و صحبت کردن ، با بازی رابین ویلیامز منتظر می ماند. ریچارد روزنامه ای را برای خواندن صبحانه جمع می کند. یک روزنامه! چاپ شده روی کاغذ. نه یک رایانه رایانه لوحی ، نه پادکست از یک دستگاه مانند Amazon Echo ، نه یک اتصال عصبی مستقیم به اینترنت.

به نظر می رسد که بسیاری از محققان هوش مصنوعی و اندیشمندان هوش مصنوعی ، به ویژه آن دسته از بدبین ها که پیش بینی می کنند درباره خارج شدن از هوش مصنوعی از کنترل و کشتن افراد ، به طور مشابه با چالش تخیل هستند. آنها این واقعیت را نادیده می گیرند که اگر ما بتوانیم در نهایت چنین دستگاه های هوشمند را بسازیم ، جهان تا آن زمان به میزان قابل توجهی تغییر خواهد کرد. ما به طور ناگهانی از وجود چنین موارد فوق العاده شگفت زده نخواهیم شد. آنها با گذشت زمان از نظر فنی تکامل می یابند ، و دنیای ما توسط بسیاری از هوشهای دیگر جمع می شود و ما قبلاً تجربه زیادی خواهیم داشت. مدتها قبل از این که فوق العاده شرور وجود داشته باشد که می خواهند از شر ما خلاص شوند ، ماشین های کمی هوشمندانه و کمتر جنگنده وجود خواهند داشت. قبل از آن ، ماشین های واقعاً ناخوشایند وجود خواهند داشت. قبل از آن ، ماشین های کاملاً آزار دهنده. و قبل از آنها ، دستگاه های متکبر و ناخوشایند. ما دنیای خود را در این راه تغییر خواهیم داد و هم محیط را برای فن آوری های جدید و خود فن آوری های جدید تنظیم خواهیم کرد. من نمی گویم ممکن است چالش هایی وجود نداشته باشد. من می گویم که آنها ناگهان و غیر منتظره نخواهند بود ، همانطور که بسیاری از مردم فکر می کنند.

7. سرعت استقرار

نسخه های جدید نرم افزار در برخی از صنایع بسیار غالباً مستقر می شوند. ویژگی های جدید سیستم عامل هایی مانند فیس بوک تقریباً ساعتی مستقر می شوند. برای بسیاری از ویژگی های جدید ، تا زمانی که آنها آزمایش ادغام را پشت سر گذاشته اند ، اگر مشکلی در این زمینه ظاهر شود و نسخه به عقب کشیده شود ، روند اقتصادی بسیار کمی وجود دارد. این سرعت است که توسعه دهندگان نرم افزار Silicon Valley و وب از آن استفاده کرده اند. این کار می کند زیرا هزینه حاشیه ای از کد تازه استقرار بسیار ، بسیار نزدیک به صفر است.

استفاده از سخت افزار جدید ، از طرف دیگر ، هزینه های حاشیه ای قابل توجهی دارد. ما می دانیم که از زندگی خودمان. بسیاری از اتومبیل هایی که امروز خریداری می کنیم ، که خودران نیستند ، و بیشتر آنها نرم افزاری نیستند ، احتمالاً هنوز در سال 2040 در جاده خواهند بود. این محدودیت ذاتی را برای اینکه چقدر همه اتومبیل های ما خود خواهند بود-رانندگی. اگر امروز خانه جدیدی بسازیم ، می توانیم انتظار داشته باشیم که ممکن است بیش از 100 سال باشد. بنایی که من در آن زندگی می کنم در سال 1904 ساخته شده است و تقریباً قدیمی ترین محله من نیست.

هزینه های سرمایه سخت افزار فیزیکی را برای مدت طولانی در اطراف نگه می دارد ، حتی اگر جنبه های پیشرفته ای با آن وجود داشته باشد ، و حتی وقتی یک مأموریت وجودی داشته باشد.

نیروی هوایی ایالات متحده هنوز نوع B-52H بمب افکن B-52 را پرواز می کند. این نسخه در سال 1961 معرفی شد و آن را 56 ساله کرد. آخرین مورد در سال 1962 ساخته شد ، فقط 55 سال پیش. در حال حاضر انتظار می رود این هواپیماها تا حداقل 2040 پرواز کنند و شاید طولانی تر باشند - صحبت از تمدید عمر آنها به 100 سال است.

من مرتباً تجهیزات چند ساله را در کارخانه های سراسر جهان می بینم. من حتی رایانه های شخصی را می بینم که ویندوز 3. 0 را اجرا می کند - یک نسخه نرم افزاری که در سال 1990 منتشر شده است. فکر می شود "اگر شکسته نشود ، آن را برطرف نکنید."این رایانه های شخصی و نرم افزار آنها همان کار را انجام داده اند که همان کار را با اطمینان بیش از دو دهه انجام می دهند.

تقریباً تمام نوآوری ها در روباتیک و هوش مصنوعی بسیار دور ، طولانی تر طول می کشد تا واقعاً از مردم در این زمینه و خارج از میدان مستقر شود.

مکانیسم کنترل اصلی در کارخانه ها ، از جمله موارد جدید در ایالات متحده ، اروپا ، ژاپن ، کره و چین ، مبتنی بر کنترل کننده های منطق قابل برنامه ریزی یا PLC است. اینها در سال 1968 برای جایگزینی رله های الکترومکانیکی معرفی شدند."سیم پیچ" هنوز واحد اصلی انتزاع است که امروزه مورد استفاده قرار می گیرد ، و PLC ها به گونه ای برنامه ریزی می شوند که گویی شبکه ای از رله های الکترومکانیکی 24 ولت هستند. هنوز. برخی از سیم های مستقیم با کابل های اترنت جایگزین شده اند. اما آنها بخشی از یک شبکه باز نیستند. درعوض آنها کابل های جداگانه هستند ، نقطه به نقطه به نقطه ، از نظر جسمی جریان کنترل-ترتیب اجرای مراحل را در این کنترل کننده های جدید اتوماسیون باستانی کاملاً تجسم می کنند. هنگامی که می خواهید جریان اطلاعات یا کنترل جریان را تغییر دهید ، در بیشتر کارخانه های سراسر جهان ، هفته ها مشاوران می دانند که چه چیزی در آنجا وجود دارد ، طراحی مجدد جدید و سپس تیم های بازرگانان برای بازسازی و پیکربندی مجدد سخت افزار. اخیراً یکی از تولید کنندگان اصلی این تجهیزات به من گفت که آنها هر 20 سال یکبار سه نسخه نرم افزاری را هدف قرار می دهند.

در اصل ، می توان آن را متفاوت انجام داد. در عمل ، اینطور نیست. من فقط به لیست مشاغل نگاه کردم ، و حتی امروز ، امروز ، Tesla Motors در تلاش است تا تکنسین های PLC را در کارخانه خود در Fremont ، کالیفرنیا استخدام کند. آنها از تقلید رله الکترومغناطیسی در تولید بیشترین اتومبیل پیشرفته ای که وجود دارد استفاده می کنند.

بسیاری از محققان و اندیشه های هوش مصنوعی تصور می کنند که جهان در حال حاضر دیجیتالی است ، و این که به سادگی معرفی سیستم های جدید هوش مصنوعی بلافاصله به تغییرات عملیاتی در این زمینه ، در زنجیره تأمین ، در طبقه کارخانه ، در طراحی محصولات می پردازند.

هیچ چیز نمی تواند از حقیقت دور باشد. تقریباً تمام نوآوری ها در روباتیک و هوش مصنوعی بسیار دور ، طولانی تر طول می کشد تا واقعاً از مردم در این زمینه و خارج از میدان مستقر شود.

رودنی بروکس مدیر سابق آزمایشگاه علوم کامپیوتر و اطلاعات مصنوعی در MIT و بنیانگذار Rethink Robotics و Irobot است. این مقاله با مجوز پستی که در ابتدا در Rodneybrooks. com ظاهر شده است ، اقتباس شده است.