Какво правя кола защо чат ботове, докато не опасни за човечеството

Напоследък много новини, свързани с изкуствен интелект, и по-специално, до област, която се нарича обработка на естествен език (обработка на естествен език) или НЛП.

Така например, в MIPT сега е разработила чат бот която да отговаря на въпроси от определена област, например, тя може да ви помогне да си поръчате пица. Досега тя работи само с бланкетни отговори, защото отговорите не винаги са генерирани от "падането". В допълнение, за бота не съществува, например, идеята за учтивост. С това, между другото, вече съм изправен на Microsoft, когато преди известно време пусна бот си да общуват свободно онлайн. След кратко време служителите на компанията трябваше да го изключите. защото те не могат да контролират процеса на общуване с хора.

Сложността на естествен език

От това се роди идеята за ограничения да се даде възможност на компютрите да развиват своя собствен език, подходящ за условията, в които те са "на живо". Един такъв експеримент е бил пуснат на Facebook отдела за изследвания - Facebook Изкуствен интелект изследвания (FAIR). Учени от ПАНАИР разработени среда, в която агентите са били в състояние да измислят своя собствен език. След това дойде новината. те спряха на експеримента, тъй като те не могат да разбират езика на агентите на експеримента. Това е неправилно тълкуване на репортерите на факта, че експериментът е бил току-що завършили - възможността за създаване на "естествен" език е доказано ин витро. Опасностите от този език могат да представляват не само поради факта, че той е напълно примитивен и не може да се развие по-нататък - на агента просто не е достатъчно за тази власт. И да споделят един с друг, те биха могли съобщения дължина само няколко знака, които показват някои основни понятия от техния свят (подобни на нашите ръце, крака, или сезона).

Ако ние говорим за силата, най-големите съвременни изкуствени невронни мрежи (значително повече от тези, които са били използвани при агентите) може да достигне размер от милиони изкуствени неврони. Човешкият мозък има средно около 100 милиарда неврони. Това е сега компютрите не са в състояние да се възпроизвеждат и хилядна за силата на човешкия мозък.

Ето защо, наскоро категорично "уговорка" Елон Мъск е по-скоро вик "вълк!" В ситуация, в която не вълци не са в близост. Компютри Не се сещам за сега и няма да могат да се мисли, поне през следващото десетилетие - ако се съди по това как да се развива на изчислителна мощност от днешните процесори.

Ако погледнем в по-далечно бъдеще, където компютрите вече са достатъчно мощни, а след това си струва да припомним, че компютърът не разполага с тялото, очите или стомаха - той ще възприеме всичко наоколо не е така, тъй като ние сме и ще излезе с много по-различен от нашия език. Тъй като компютърът ще вземе друг принцип всичко останало ще искате да се страхуват от друга - той ще си помисли по различен начин. От това следва, че интересите на хората с интересите на компютрите ще бъдат пресечени малко или припокриване няма да бъде. Така че това, което е един добър шанс, че ние просто ще "не говоря за". Това означава, че ние ще съществуват паралелно, но на практика не си взаимодействат, тъй като сега хората и делфините (втори условни интелигентни видове на планетата).

Има и негативен сценарий, в който ще започне да се състезава за основния ресурс - енергия. Въпреки това, отрицателен сценарий е възможно само ако компютрите ще живеят в нашия смисъл, това означава, че ще са склонни да се размножават и да продължи да съществува. Но това не е начин, по който все още не може да се предскаже.

Валентин Малък лаборатория изследовател невронни мрежи и дълбоко изучаване MIPT