Невронни мрежи накратко. Невронни мрежи: видове, принцип на действие и обхват

Невронни мрежи

Диаграма на проста невронна мрежа. Зелени са входелементи, жълто - почивен денелемент

Изкуствени невронни мрежи(ANN) - математически модели, както и техните софтуерни или хардуерни реализации, изградени на принципа на организация и функциониране на биологични невронни мрежи - мрежи от нервни клетки на жив организъм. Тази концепция възниква при изучаване на процесите, протичащи в мозъка по време на мислене, и при опит за моделиране на тези процеси. Първият такъв модел на мозъка беше перцептронът. Впоследствие тези модели започнаха да се използват за практически цели, като правило, при прогнозиране на проблеми.

Невронните мрежи не са програмирани в обичайния смисъл на думата, те са обучени. Способността за учене е едно от основните предимства на невронните мрежи пред традиционните алгоритми. Технически погледнато, обучението е свързано с намирането на коефициентите на връзки между невроните. В процеса на обучение невронната мрежа е в състояние да идентифицира сложни връзки между входове и изходи, както и да извършва генерализация. Това означава, че в случай на успешно обучение, мрежата ще може да върне правилния резултат въз основа на данните, които липсват в набора за обучение.

Хронология

Забележителни употреби

Клъстеризиране

Клъстерирането се разбира като разделяне на набор от входни сигнали в класове, въпреки факта, че нито броят, нито характеристиките на класовете са известни предварително. След обучение такава мрежа е в състояние да определи кой клас е входен сигнал. Мрежата може също така да сигнализира, че входният сигнал не принадлежи към нито един от избраните класове - това е признак за липса на нови данни в обучителната извадка. Така че такава мрежа може да открие нови, неизвестни досега класове сигнали. Съответствието между класовете, идентифицирани от мрежата, и класовете, които съществуват в предметната област, се установява от човек. Клъстерирането се извършва например от невронни мрежи на Кохонен.

Експериментален избор на мрежови характеристики

След избора цялостна структуратрябва експериментално да изберете мрежовите параметри. За мрежи като персептрон това ще бъде броят на слоевете, броят на блоковете в скритите слоеве (за мрежите на Word), наличието или отсъствието на байпасни връзки и трансферните функции на невроните. При избора на броя на слоевете и невроните в тях трябва да се изхожда от факта, че способността на мрежата да обобщава е по-висока, толкова по-голям е общият брой на връзките между невроните. От друга страна, броят на връзките е ограничен отгоре от броя на записите в данните за обучение.

Експериментален избор на параметри за обучение

След като изберете конкретна топология, трябва да изберете параметрите за обучение на невронната мрежа. Тази стъпка е особено важна за контролирани мрежи. Правилният избор на параметри определя не само колко бързо отговорите на мрежата ще се сближат с правилните отговори. Например, избирането на ниска скорост на обучение ще увеличи времето за конвергенция, но понякога ще избегне парализата на мрежата. Увеличаването на момента на обучение може да доведе както до увеличаване, така и до намаляване на времето за конвергенция, в зависимост от формата на повърхността на грешката. Въз основа на такова противоречиво влияние на параметрите може да се заключи, че техните стойности трябва да бъдат избрани експериментално, ръководени от критерия за завършване на обучението (например минимизиране на грешката или ограничаване на времето за обучение).

Самото мрежово обучение

По време на процеса на обучение мрежата сканира извадката за обучение в определен ред. Редът на сърфиране може да бъде последователен, случаен и т.н. Някои неконтролирани мрежи, като мрежите на Hopfield, сканират извадката само веднъж. Други, като мрежите на Кохонен, както и контролираните мрежи, сканират пробата много пъти, с едно пълно преминаване през пробата, наречено ера на обучение. При обучение с учител наборът от изходни данни се разделя на две части - действителната учебна извадка и тестовите данни; принципът на разделяне може да бъде произволен. Данните за обучение се подават към мрежата за обучение, а данните от теста се използват за изчисляване на грешката на мрежата (данните от теста никога не се използват за обучение на мрежата). По този начин, ако грешката намалява върху тестовите данни, тогава мрежата се генерализира. Ако грешката в данните за обучение продължава да намалява и грешката в данните от теста се увеличава, тогава мрежата е спряла да обобщава и просто „помни“ данните за обучение. Това явление се нарича мрежово пренастройване или свръхнастройване. В такива случаи обучението обикновено се спира. По време на процеса на обучение могат да се появят други проблеми, като парализа или попадане на мрежата в локален минимум на повърхността на грешката. Невъзможно е предварително да се предвиди проявата на конкретен проблем, както и да се дадат недвусмислени препоръки за тяхното разрешаване.

Проверка на адекватността на обучението

Дори в случай на успешно, на пръв поглед, обучение, мрежата не винаги научава какво точно е искал създателят от нея. Известен е случай, когато мрежата беше обучена да разпознава изображения на танкове от снимки, но по-късно се оказа, че всички танкове са снимани на един и същи фон. В резултат на това мрежата се "научи" да разпознава този тип терен, вместо да се "научи" да разпознава танкове. Така мрежата „разбира“ не това, което се изисква от нея, а това, което е най-лесно за обобщаване.

Класификация по вид на входната информация

  • Аналогови невронни мрежи (използват информация под формата на реални числа);
  • Двоични невронни мрежи (работят с информация, представена в двоична форма).

Класификация по характер на обучението

  • Учене под наблюдение – известно е изходното пространство за вземане на решения на невронната мрежа;
  • Неконтролирано обучение - невронна мрежа генерира изходно пространство за вземане на решения само въз основа на входни действия. Такива мрежи се наричат ​​самоорганизиращи се;
  • Обучението с подсилване е система за налагане на наказания и награди от околната среда.

Класификация според характера на настройката на синапса

Класификация по време на предаване на сигнала

В редица невронни мрежи активиращата функция може да зависи не само от тегловните коефициенти на връзките w азй, но и от времето на предаване на импулс (сигнал) по комуникационните канали τ азй. Следователно, като цяло, активиращата (предавателна) комуникационна функция ° С азйот елемент u азкъм елемент u йима формата: . Тогава синхронна мрежа азйвсяка връзка е или нула, или фиксирана константа τ. асинхроненсе нарича такава мрежа, за която времето за предаване τ азйза всяка връзка между елементите u азИ u йсобствени, но и постоянни.

Класификация по естеството на връзките

Предварителни мрежи

Всички връзки са насочени стриктно от входните към изходните неврони. Примери за такива мрежи са перцептронът на Розенблат, многослойният перцептрон, мрежите на Word.

Повтарящи се невронни мрежи‎

Сигналът от изходните неврони или невроните на скрития слой се предава частично обратно към входовете на невроните на входния слой (обратна връзка). Повтарящата се мрежа Hopfield мрежа "филтрира" входните данни, връщайки се в стабилно състояние и по този начин позволява решаването на проблемите с компресирането на данни и изграждането на асоциативна памет. Специален случай на повтарящи се мрежи са двупосочните мрежи. В такива мрежи има връзки между слоевете както в посока от входния слой към изходния, така и в обратната посока. Класически пример е невронната мрежа на Cosco.

Радиални базисни функции

Изкуствени невронни мрежи, които използват радиално-основни невронни мрежи като функции за активиране (такива мрежи се наричат ​​съкратено като RBF мрежи). Обща формарадиална базисна функция:

, Например,

Където х- вектор на входните сигнали на неврон, σ - ширина на прозореца на функцията, φ( г) е намаляваща функция (най-често равна на нула извън определен интервал).

Радиално-основната мрежа се характеризира с три характеристики:

1. Единственият скрит слой

2. Само невроните в скрития слой имат функция на нелинейно активиране

3. Синаптичните тегла на връзките на входния и скрития слой са равни на единица

За процедурата на обучение - вижте литературата

Самоорганизиращи се карти

Такива мрежи са неконтролирана конкурентна невронна мрежа, която изпълнява задачата за визуализация и групиране. Това е метод за проектиране на многомерно пространство в пространство с по-ниско измерение (най-често двумерно), използва се и за решаване на проблеми на моделиране, прогнозиране и др. Това е една от версиите на невронните мрежи на Кохонен. Самоорганизиращите се карти на Кохонен служат предимно за визуализация и първоначален („интелигентен“) анализ на данни.

Сигналът към мрежата на Кохонен отива до всички неврони наведнъж, теглата на съответните синапси се интерпретират като координати на позицията на възела и изходният сигнал се формира съгласно принципа „победителят взема всичко“ - тоест невронът, който е най-близък (по отношение на теглата на синапсите) към входния сигнал има ненулев обект на изходен сигнал. По време на процеса на обучение теглата на синапсите се коригират по такъв начин, че възлите на решетката да се „разположат“ на местата на локално уплътняване на данни, т.е. те описват клъстерната структура на облака от данни, от друга страна, връзките между невроните съответстват на отношенията на съседство между съответните клъстери в пространството на характеристиките.

Удобно е да се разглеждат такива карти като двумерни мрежи от възли, разположени в многоизмерно пространство. Първоначално самоорганизиращата се карта е мрежа от възли, свързани с връзки. Кохонен разглежда два варианта за свързване на възли - в правоъгълна и шестоъгълна мрежа - разликата е, че в правоъгълна мрежа всеки възел е свързан с 4 съседни, а в шестоъгълна - с 6 най-близки възела. За две такива мрежи процесът на изграждане на мрежа на Кохонен се различава само в мястото, където се пресичат най-близките съседи на даден възел.

Първоначалното влагане на мрежата в пространството с данни се избира произволно. Авторският пакет SOM_PAK предлага опции за произволно първоначално разположение на възлите в пространството и вариант за разположение на възлите в равнина. След това възлите започват да се движат в пространството по следния алгоритъм:

  1. Точка от данни се избира произволно х .
  2. Определя се най-близкият хкартографски възел (BMU - Best Matching Unit).
  3. Този възел премества дадената стъпка към x. Той обаче не се движи сам, а носи определен брой най-близки възли от някой квартал на картата. От всички движещи се възли, централният възел, който е най-близо до точката с данни, се движи най-много, а останалите изпитват толкова по-малки измествания, колкото по-далеч са от BMU. Има два етапа на настройка на картата - етап на груба (подреждане) и етап на фина (фина настройка) настройка. На първия етап се избират големи стойности на кварталите и движението на възлите е от колективен характер - в резултат на това картата се „разпръсква“ и грубо отразява структурата на данните; на сцената фина настройкарадиусът на квартала е 1-2 и отделните позиции на възлите вече са коригирани. В допълнение, стойността на отклонението намалява равномерно с времето, тоест тя е голяма в началото на всеки от етапите на обучение и близо до нула в края.
  4. Алгоритъмът се повтаря за определен брой епохи (ясно е, че броят на стъпките може да варира значително в зависимост от задачата).

Известни типове мрежи

  • мрежа на Хеминг;
  • неокогнитрон;
  • Хаотична невронна мрежа;
  • Мрежа за противодействие на разпространението;
  • Мрежа от радиални базисни функции (RBF-мрежа);
  • Мрежа на генерализирана регресия;
  • Вероятностна мрежа;
  • Сиамска невронна мрежа;
  • Мрежи от адаптивен резонанс.

Разлики от машини с архитектура на фон Нойман

Дългият период на еволюция е дал на човешкия мозък много качества, които липсват в машините с фон Нойманова архитектура:

  • Масов паралелизъм;
  • Разпределено представяне на информация и изчисления;
  • Способност за учене и обобщаване;
  • адаптивност;
  • Свойство за обработка на контекстна информация;
  • толерантност към грешки;
  • Ниска консумация на енергия.

Невронни мрежи - универсални апроксиматори

Невронните мрежи са универсални апроксиматори и могат да симулират всеки непрекъснат автомат с всякаква точност. Доказана е обобщена теорема за приближение: използвайки линейни операции и каскадна връзка, е възможно да се получи устройство от произволен нелинеен елемент, който изчислява всяка непрекъсната функция с всяка предварително определена точност. Това означава, че нелинейната характеристика на неврона може да бъде произволна: от сигмоид до произволен вълнов пакет или вълна, синус или полином. Сложността на дадена мрежа може да зависи от избора на нелинейна функция, но при всяка нелинейност мрежата остава универсален апроксиматор дори когато правилен изборструктурата може произволно точно да приближи функционирането на всеки непрекъснат автомат.

Примери за приложение

Прогнозиране на финансови времеви редове

Входни данни - борсов курс за годината. Задачата е да се определи утрешния курс. Извършва се следната трансформация - нарежда се курсът за днес, вчера, завчера, завчера. Следващият ред се измества по дата с един ден и т.н. На полученото множество се обучава мрежа с 3 входа и един изход - тоест изходът е: скоростта за датата, входовете: скоростта за датата минус 1 ден, минус 2 дни, минус 3 дни. Подаваме на обучената мрежа курса за днес, вчера, завчера и получаваме отговора за утре. Лесно е да се види, че в този случай мрежата просто ще изведе зависимостта на един параметър от трите предишни. Ако е желателно да се вземе предвид някакъв друг параметър (например общия индекс за индустрията), тогава той трябва да бъде добавен като вход (и включен в примерите), да преквалифицира мрежата и да получи нови резултати. За най-точно обучение си струва да използвате метода ORO, като най-предсказуем и лесен за изпълнение.

Психодиагностика

Поредица от трудове на M. G. Dorrer и съавтори е посветена на изследването на възможността за развитие на психологическа интуиция в експертни системи на невронни мрежи. Получените резултати предоставят подход за разкриване на механизма на интуиция на невронните мрежи, който се проявява при решаването на психодиагностични проблеми. Създаден нестандартен за компютърна техника интуитивенподход към психодиагностиката, който се състои в изключването на конструкцията описана реалност. Тя ви позволява да намалите и опростите работата по психодиагностични методи.

Химиоинформатика

Невронните мрежи се използват широко в химичните и биохимичните изследвания.В момента невронните мрежи са един от най-разпространените хемоинформатични методи за търсене на количествени връзки структура-свойства, поради което се използват активно както за предсказване на физикохимичните свойства, така и за биологичната активност на хим. съединения и за насочен дизайн на химични съединения и материали с предварително определени свойства, включително разработването на нови лекарства.

Бележки

  1. McCulloch W.S., Pitts W., Логическо смятане на идеи, свързани с нервната дейност // В: Изд. "Автомати". C. E. Shannon и J. McCarthy. - М.: Изд-во иностр. лит., 1956. - с. 363-384. (Превод на английската статия от 1943 г.)
  2. Разпознаване на образи и адаптивен контрол. БЪРНАРД УИДРОУ
  3. Уидроу Б., Стърнс С., Адаптивна обработка на сигнала. - М.: Радио и комуникация, 1989. - 440 с.
  4. Werbos P.J., Отвъд регресията: Нови инструменти за прогнозиране и анализ в поведенческите науки. Доцент доктор. дисертация, Харвардски университет, Кеймбридж, MA, 1974 г.
  5. Галушкин А. И.Синтез на многослойни системи за разпознаване на образи. - М.: "Енергия", 1974 г.
  6. Rumelhart D.E., Hinton G.E., Williams R.J., Изучаване на вътрешни представяния чрез разпространение на грешки. В: Паралелно разпределена обработка, том. 1, стр. 318-362. Cambridge, MA, MIT Press. 1986 г.
  7. Барцев С. И., Охонин В. А.Адаптивни мрежи за обработка на информация. Красноярск: Физически институт на СО АН СССР, 1986. Препринт N 59B. - 20 с.
  8. BaseGroup Labs - Практическо приложение на невронни мрежи при класификационни проблеми
  9. Този тип кодиране понякога се нарича код "1 от N".
  10. Отворени системи – Въведение в невронните мрежи
  11. Миркес Е. М., Логически прозрачни невронни мрежи и производство на явно знание от данни , В книгата: Невроинформатика / А. Н. Горбан, В. Л. Дунин-Барковски, А. Н. Кирдини др. - Новосибирск: Наука. Сибирско предприятие РАН, 1998. - 296 с ISBN 5020314102
  12. Споменаване на тази история в списание Popular Mechanics
  13. http://www.intuit.ru/department/expert/neuro/10/ INTUIT.ru - Повтарящи се мрежи като асоциативни устройства за съхранение]
  14. Кохонен, Т. (1989/1997/2001), Самоорганизиращи се карти, Берлин-Ню Йорк: Springer-Verlag. Първо издание 1989 г., второ трето издание 1997 г., разширено издание 2001 г., ISBN 0-387-51387-6, ISBN 3-540-67921-9
  15. Зиновиев А. Ю.Визуализиране на многоизмерни данни. - Красноярск: Изд. Красноярски държавен технически университет, 2000. - 180 с.
  16. Горбан А. Н., Обобщена теорема за приближение и изчислителни възможности на невронните мрежи, Сибирски журнал по изчислителна математика, 1998. V.1, No. 1. P. 12-24.
  17. Горбан А.Н., Росиев Д.А., Дорер М.Г., MultiNeuron – Симулатор на невронни мрежи за медицински, физиологични и психологически приложения, Wcnn'95, Вашингтон, окръг Колумбия: Световен конгрес по невронни мрежи 1995 г. Годишна среща на Международното дружество за невронни мрежи: хотел Renaissance, Вашингтон, окръг Колумбия, САЩ, 17-21 юли, 1995 г.
  18. Дорер М. Г., Психологическа интуиция на изкуствени невронни мрежи , Дис. ... 1998. Други копия онлайн:,
  19. Баскин И. И., Палюлин В. А., Зефиров Н. С.,Приложение на изкуствени невронни мрежи в химични и биохимични изследвания, Вестн. Москва ун-та. сер. 2. Химия. 1999. Т.40. номер 5.
  20. Галберщам Н. М., Баскин И. И., Палюлин В. А., Зефиров Н. С.Невронните мрежи като метод за търсене на зависимости структура - свойство на органични съединения // Напредък в химията. - 2003. - Т. 72. - № 7. - С. 706-727.
  21. Баскин И. И., Палюлин В. А., Зефиров Н. С.Многослойни перцептрони в изследването на връзките "структура-свойство" за органични съединения // Руски химически журнал (списание на Руското химическо общество на името на Д. И. Менделеев). - 2006. - Т. 50. - С. 86-96.

Връзки

  • Изкуствена невронна мрежа за PHP 5.x - Сериозен проект за развитие на невронни мрежи в езика за програмиране PHP 5.X
  • Форум за невронни мрежи и генетични алгоритми
  • Миркес Е. М.,

Напоследък все по-често се говори за така наречените невронни мрежи, те казват, че скоро те ще бъдат активно използвани в роботиката, и в машиностроенето, и в много други области на човешката дейност, но алгоритмите на търсачките, същия Google, вече бавно започват да ги използват. Какви са тези невронни мрежи, как работят, какви са техните приложения и как могат да ни бъдат полезни, прочетете за всичко това по-нататък.

Какво представляват невронните мрежи

Невронните мрежи са една от областите научно изследванев областта на създаването изкуствен интелект(AI), който се основава на желанието да се имитира човешката нервна система. Включително нейната (нервна система) способност да коригира грешки и да се самообучава. Всичко това, макар и малко грубо, трябва да ни позволи да симулираме работата на човешкия мозък.

Биологични невронни мрежи

Но това определение в горния параграф е чисто техническо, но казано на езика на биологията, невронната мрежа е човешката нервна система, онзи набор от неврони в нашия мозък, благодарение на който мислим, вземаме определени решения, възприемаме света около нас. нас.

Биологичният неврон е специална клетка, състояща се от ядро, тяло и процеси, освен това има тясна връзкас хиляди други неврони. Чрез тази връзка непрекъснато се предават електрохимични импулси, които привеждат цялата невронна мрежа в състояние на възбуда или обратно. Например някое приятно и в същото време вълнуващо събитие (среща с любим човек, победа в състезание и т.н.) ще генерира електрохимичен импулс в невронната мрежа, която се намира в главата ни, което ще доведе до нейното възбуждане. В резултат на това невронната мрежа в мозъка ни ще предаде възбудата си на други органи на тялото ни и ще доведе до учестен пулс, по-често мигане на очите и т.н.

Тук на снимката е силно опростен модел на биологичната невронна мрежа на мозъка. Виждаме, че невронът се състои от клетъчно тяло и ядро, клетъчното тяло от своя страна има много разклонени влакна, наречени дендрити. Дългите дендрити се наричат ​​аксони и имат дължина, много по-голяма от показаната на тази фигура, чрез аксоните се осъществява комуникация между невроните, благодарение на тях биологичната невронна мрежа работи в нашите глави.

История на невронните мрежи

Каква е историята на развитието на невронните мрежи в науката и технологиите? Той възниква с появата на първите компютри или компютри (електронни компютри), както са били наричани в онези дни. И така, в края на 40-те години на миналия век, известен Доналд Хеб разработи механизъм за невронна мрежа, който определи правилата за обучение на компютри, тези „протокомпютри“.

По-нататъшната хронология на събитията беше следната:

  • През 1954 г. се случва първото практическо използване на невронни мрежи в работата на компютрите.
  • През 1958 г. Франк Розенблат разработва алгоритъм за разпознаване на образи и математическа анотация за него.
  • През 60-те години на миналия век интересът към разработването на невронни мрежи избледня донякъде поради слабата изчислителна мощ по това време.
  • И отново се възроди още през 80-те години, през този период се появи система с механизъм обратна връзка, разработват се алгоритми за самообучение.
  • До 2000 г. мощта на компютрите нарасна толкова много, че успяха да реализират и най-смелите мечти на учените от миналото. По това време се появиха програми за разпознаване на глас, компютърно зрение и много други.

Изкуствени невронни мрежи

Изкуствените невронни мрежи обикновено се разбират като изчислителни системи, които имат способността да се самообучават, постепенно увеличавайки своята производителност. Основните елементи на структурата на невронната мрежа са:

  • Изкуствени неврони, които са елементарни взаимосвързани единици.
  • Синапсът е връзка, която се използва за изпращане и получаване на информация между невроните.
  • Сигналът е действителната информация, която трябва да бъде предадена.

Приложение на невронни мрежи

Обхватът на изкуствените невронни мрежи се разширява всяка година, днес те се използват в области като:

  • Машинното обучение е вид изкуствен интелект. Базира се на AI обучение на примера на милиони задачи от същия тип. В наши дни машинното обучение се прилага активно търсачки Google, Yandex, Bing, Baidu. Така че въз основа на милиони заявки за търсене, които всички въвеждаме в Google всеки ден, техните алгоритми се научават да ни показват най-подходящите резултати, за да можем да намерим точно това, което търсим.
  • В роботиката невронните мрежи се използват при разработването на многобройни алгоритми за железните „мозъци“ на роботите.
  • Архитекти компютърни системиизползвайте невронни мрежи за решаване на проблема с паралелните изчисления.
  • С помощта на невронни мрежи математиците могат да решават различни сложни математически задачи.

Видове невронни мрежи

Като цяло за различни задачиПриложи различни видовеи видове невронни мрежи, сред които са:

  • конволюционни невронни мрежи,
  • повтарящи се невронни мрежи,
  • Невронна мрежа на Хопфийлд.

Конволюционни невронни мрежи

Конволюционните мрежи са един от най-популярните видове изкуствени невронни мрежи. Така те доказаха своята ефективност във визуалното разпознаване на модели (видео и изображения), препоръчителните системи и езиковата обработка.

  • Конволюционните невронни мрежи са силно мащабируеми и могат да се използват за разпознаване на образи с всякаква голяма резолюция.
  • Тези мрежи използват обемни триизмерни неврони. В рамките на един слой невроните са свързани само чрез малко поле, наречено рецептивен слой.
  • Невроните на съседните слоеве са свързани чрез механизма на пространствена локализация. Работата на много такива слоеве се осигурява от специални нелинейни филтри, които отговарят на всички Повече ▼пиксели.

Повтарящи се невронни мрежи

Такива невронни мрежи се наричат ​​повтарящи се, чиито връзки между невроните образуват показателен цикъл. Има следните характеристики:

  • Всяка връзка има своя тежест, която също е приоритетна.
  • Възлите са разделени на два типа, въвеждащи възли и скрити възли.
  • Информацията в рекурентната невронна мрежа се предава не само по права линия, слой по слой, но и между самите неврони.
  • важно отличителна чертаповтарящата се невронна мрежа е наличието на така наречената "зона на внимание", когато на машината могат да бъдат дадени определени части от данни, които изискват подобрена обработка.

Повтарящите се невронни мрежи се използват при разпознаването и обработката на текстови данни (по честота те се основават на преводача на Google, алгоритъма Yandex Palekh, гласов асистент Apple Siri).

Невронни мрежи, видео

И накрая, едно интересно видео за невронните мрежи.

Ако следите новините от света на науката и технологиите, вероятно сте чували нещо за концепцията за невронни мрежи.

Например през 2016 г. невронната мрежа AlphaGo на Google победи един от най-добрите професионални играчи на Counter-Strike: Global Offensive в света с 4-1. YouTube също обяви, че ще използва невронни мрежи, за да разбере по-добре своите видеоклипове.

Но какво е невронна мрежа? Как работи? И защо са толкова популярни в машинната обработка?

Компютърът е като мозък

Съвременните невролози често обсъждат мозъка като вид компютър. Невронните мрежи имат за цел да направят обратното: да изградят компютър, който функционира като мозък.

Разбира се, ние имаме само повърхностно разбиране за изключителното сложни функциина мозъка, но чрез създаване на опростена симулация на това как мозъкът обработва данни, можем да изградим тип компютър, който ще функционира много по-различно от стандартния.

Компютърните процесори обработват данните последователно („по ред“). Те извършват много операции върху набор от данни, една по една. Паралелната обработка („обработка на множество нишки едновременно“) значително ускорява компютъра чрез използване на множество процесори в серия.

На фигурата по-долу примерът за паралелна обработка изисква пет различни процесора:

Изкуствената невронна мрежа (така се нарича, за да се разграничи от истинските невронни мрежи в мозъка) има коренно различна структура. Това е много взаимосвързано. Това ви позволява да обработвате данни много бързо, да се учите от тези данни и да актуализирате собствената си вътрешна структура, за да подобрите производителността.

въпреки това висока степенвзаимосвързаността има някои поразителни последици. Например, невронните мрежи са много добри в разпознаването на неясни структури от данни.

Способност за учене

Способността на невронната мрежа да се учи е нейната най-голяма сила. При стандартна изчислителна архитектура програмистът трябва да разработи алгоритъм, който казва на компютъра какво да прави с входящите данни, за да се увери, че компютърът ще върне правилния отговор.

I/O отговорът може да бъде толкова прост като "когато се натисне клавиш A", "A се показва на екрана" или по-сложен от извършването на сложна статистика. От друга страна, невронните мрежи не се нуждаят от същите алгоритми. Чрез механизми за обучение те могат по същество да разработят свои собствени алгоритми. Машинни алгоритми, за да се уверите, че работят правилно.

Важно е да се отбележи, че тъй като невронните мрежи са програми, написани на машини, които използват стандарт Хардуерза последователна обработка настоящата технология все още налага ограничения. Всъщност създаването на хардуерна версия на невронна мрежа е съвсем различен проблем.

От неврони до възли

Сега, след като положихме основите за това как работят невронните мрежи, можем да започнем да разглеждаме някои от спецификите. Основната структура на една изкуствена невронна мрежа изглежда така:


Всеки от кръговете се нарича "възел" и имитира отделен неврон. Отляво са входните възли, в средата са скритите възли, а отдясно са изходните възли.

Най-общо казано, входните възли приемат входни стойности, които могат да бъдат двоични 1 или 0, част от RGB цветова стойност, статус на шахматна фигура или нещо друго. Тези възли представляват информацията, постъпваща в мрежата.

Всеки входен възел е свързан с няколко скрити възела (понякога всеки скрит възел, понякога подмножество). Входните възли приемат предоставената им информация и я предават заедно със скрития слой.

Например, входен възел може да изпрати сигнал („пожар“, на езика на неврологията), ако получи 1, и да остане неактивен, ако получи нула. Всеки скрит възел има праг: ако всички негови сумирани входове достигнат определена стойност, той се задейства.

От синапсите до връзките

Всяка връзка, която е еквивалентна на анатомичен синапс, също има определено тегло, което позволява на мрежата да обърне повече внимание на действието на определен възел. Ето един пример:


Както можете да видите, теглото на връзка "B" е по-високо от това на връзка "A" и "C". Да кажем, че скритият възел "4" ще се задейства само ако получи общ вход от "2" или повече. Това означава, че ако "1" или "3" работят поотделно, тогава "4" няма да работи, но "1" и "3" заедно ще извикат възела. Възел "2" също може да инициира възел самостоятелно чрез връзка "B".

Да вземем времето като практически пример. Да приемем, че проектирате проста невронна мрежа, за да определите дали трябва да има предупреждение за зимна буря.

Използвайки връзките и тежестите по-горе, възел 4 може да задейства само ако температурата е под -18 C и вятърът е над 48 km/s, или ще задейства, ако вероятността за сняг е по-голяма от 70 процента. Температурата ще бъде подадена към възел 1, ветровете към възел 3, а вероятността сняг да попадне във възел 2. Сега възел 4 може да вземе всичко това предвид, когато определя кой сигнал да изпрати към изходния слой.

По-добре от простата логика

Разбира се, тази функция може просто да се реализира с помощта на прости И/ИЛИ порти. Но по-сложните невронни мрежи като тези по-долу са в състояние да извършват много по-сложни операции.


Възлите на изходния слой функционират по същия начин като скрития слой: изходните възли сумират входовете от скрития слой и ако достигнат определена стойност, изходните възли задействат и изпращат специфични сигнали. В края на процеса изходният слой ще изпрати набор от сигнали, които показват резултата от входа.

Докато мрежата, показана по-горе, е проста, дълбоките невронни мрежи могат да имат много скрити слоеве и стотици възли.


Поправка на бъг

Този процес е сравнително прост досега. Но там, където невронните мрежи наистина са необходими, е обучението. Повечето невронни мрежи използват процес на обратно разпространение, който изпраща сигнали обратно през мрежата.

Преди разработчиците да внедрят невронна мрежа, те я изпълняват във фаза на обучение, в която й се дава набор от входове с известни резултати. Например, програмист може да научи невронна мрежа да разпознава изображения. Входът може да бъде изображение на автомобил, а правилният изход ще бъде думата "кола".

Програмистът предоставя изображение като вход и вижда какво излиза от изходните възли. Ако мрежата отговори със "самолет", програмистът казва на компютъра, че греши.

След това мрежата прави корекции на собствените си връзки, като променя теглото на различните връзки между възлите. Това действие се основава на специален алгоритъм за обучение, добавен към мрежата. Мрежата продължава да коригира теглата на връзката, докато не предостави правилния изход.

Това е опростяване, но невронните мрежи могат да научат много сложни операции, използвайки подобни принципи.

Непрекъснато усъвършенстване

Дори след обучение, обратното разпространение (обучение) продължава - и това е мястото, където невронните мрежи стават наистина, наистина готини. Те продължават да се учат, докато се използват, интегрират нова информация и правят корекции на теглата на различни съединения, ставайки все по-ефективни в задачата, за която са предназначени.

Може да бъде просто като разпознаване на образи или сложно като CS:GO игра.

По този начин невронните мрежи непрекъснато се променят и подобряват. И това може да има неочаквани последици, водещи до мрежи, които приоритизират неща, които програмистът не би приоритизирал.

В допълнение към процеса, описан по-горе, който се нарича контролирано обучение, има още един метод: обучение без надзор.

В тази ситуация невронните мрежи приемат входни данни и се опитват да го пресъздадат точно в своя изход, използвайки обратно разпространение, за да актуализират своите връзки. Това може да звучи като безполезно упражнение, но по този начин мрежите се научават да извличат полезни функциии обобщават тези функции, за да подобрят своите модели.

Въпроси на дълбочина

Обратното разпространение е много ефективен начин за обучение на невронни мрежи...когато те имат само няколко слоя. Тъй като броят на скритите слоеве се увеличава, ефективността на обратното разпространение намалява. Това е проблем за дълбоките мрежи. Използвайки обратно разпространение, те често не са по-ефективни от обикновените мрежи.

Учените са разработили редица решения на този проблем, чиято специфика е доста сложна и извън обхвата на тази уводна част. Какво се опитват да направят много от тези решения обикновен език, се нарича намаляване на сложността на мрежата чрез обучението й да „компресира“ данните.


За да направи това, мрежата се научава да извлича по-малко идентифициращи характеристики от входа, като в крайна сметка става по-ефективна в своите изчисления. По същество мрежата прави обобщения и абстракции, почти по същия начин, по който хората учат.

След това обучение мрежата може да изрязва възли и връзки, които смята за по-малко важни. Това прави мрежата по-ефективна и ученето става по-лесно.

Приложения за невронни мрежи

По този начин невронните мрежи моделират как мозъкът се учи, използвайки множество нива на възли - входни, скрити и изходни - и те могат да учат както в контролирани, така и в неконтролирани ситуации. Сложните мрежи са в състояние да абстрахират и обобщават, което ги прави по-ефективни и по-способни да се учат.

За какво можем да използваме тези очарователни системи?

На теория можем да използваме невронни мрежи за почти всичко. И вероятно сте ги използвали, без да го осъзнавате. Те са много често срещани в речта и визуалното разпознаване, например, защото могат да се научат да избират определени характеристики, общи неща в звуци или изображения.

Така че, когато кажете „OK Google“, вашият iPhone пуска речта ви през невронна мрежа, за да разбере какво казвате. Може би има друга невронна мрежа, която се научава да предсказва какво е вероятно да поискате.

Самоходните превозни средства могат да използват невронни мрежи за обработка на визуални данни, като по този начин следват пътни правилаи избягвайте сблъсъци. Роботи от всякакъв вид могат да се възползват от невронни мрежи, които им помагат да се научат как да изпълняват задачи ефективно. Компютрите могат да се научат да играят игри като шах или CS:GO. Ако някога сте взаимодействали с чатбот, има вероятност той да използва невронна мрежа, за да предложи подходящи отговори.

Търсенето в интернет може да извлече голяма полза от невронните мрежи, тъй като един високоефективен модел на паралелна обработка може бързо да генерира много данни. Невронната мрежа може също така да научи вашите навици, за да персонализира резултатите от вашето търсене или да предвиди какво ще търсите в близко бъдеще. Този прогнозен модел очевидно ще бъде много ценен за търговците (и за всеки, който трябва да предвиди сложно човешко поведение).

Разпознаване на образи, оптично разпознаване на изображения, прогнозиране на борсата, намиране на маршрут, обработка на големи данни, анализ на медицински разходи, прогнозиране на продажбите, изкуствен интелект във видеоигрите - възможностите са почти безкрайни. Способността на невронните мрежи да научават модели, да правят обобщения и успешно да прогнозират поведение ги прави ценни в безброй ситуации.

Бъдещето на невронните мрежи

Невронните мрежи са напреднали от много прости модели до тренировъчни симулатори на високо ниво. Те се намират на нашите телефони, таблети и използват много от уеб услугите, които използваме. Има много други системи за машинно обучение.

Но невронните мрежи, поради тяхната прилика (по много опростен начин) с човешкия мозък, са сред най-очарователните. Докато продължаваме да развиваме и подобряваме моделите, не можем да кажем на какво са способни.

Знаете ли някакви интересни приложения на невронните мрежи? Вие самият имате ли опит с тях? Какво ви привлича най-много в тази технология? Споделете вашите мисли в коментарите по-долу!

През 2016 г. интернет избухна в нова вълна от шум - този път проектът Deep Dream, пуснат на обществеността от програмисти на Google, стана обект на разгорещени дискусии в социалните мрежи. Deep Dream позволява на всеки да качи собствена снимка за обработка от изкуствен интелект.

На изхода потребителят получава картина по начина, по който невронните мрежи я „виждат“. Как работи и какво представлява MNIST? Днес ще ви разкажем основни принципиработа на изкуствения интелект.

Екскурзия по биология

Способността на човек да интерпретира и правилно да възприема визуална информация се осигурява от може би най-сложния биологичен процес във Вселената. В същото време човешката биологична невронна мрежа играе огромна роля в работата на зрителния апарат, който стана прототип на първите модели на изкуствен интелект. Защо мозъкът е толкова важен за острата и ясна визия?

Факт е, че човешкото око възприема картина, която е размазана, обърната и развалена от сляпо петно. Именно тя първоначално се образува върху ретината и едва след това се предава на мозъка. Той вече „преобръща“ изображението, филтрира ненужните детайли и почти моментално подчертава познати или непознати обекти в зрителното поле. Въз основа на получената информация нервната система "издава инструкции" на други органи, независимо дали става дума за рязък прилив на адреналин в опасна ситуация или повишено чувство на глад при вида на вкусна храна.

Огромна роля за правилното дефиниране на образите играе основното образование, което всички деца преминават дори в несъзнателна възраст. Например, когато видят непознато животно, родителите обясняват, че това е куче, а не друго същество. Следващият път мозъкът на детето веднага разпознава кучето на фона на други обекти. И така, през целия живот, след милиони видяни снимки, способността за разпознаване и обработка необходимата информация. За изкуствен интелект като примери се използват бази данни с изображения като MNIST.

Какво е изкуствена невронна мрежа?

Човешката нервна система е изградена от милиарди неврони, свързани чрез синапси. Всеки неврон може да образува и прекъсва хиляди връзки с подобни клетки за част от секундата. Благодарение на това можем да мислим, анализираме, запомняме и възпроизвеждаме различна информация. Изкуствената невронна мрежа (ANN) е първият опит да се даде възможност на машина да придобие способността да анализира.

Подобно на биологичен модел, ANN се състои от огромен брой неврони, свързани помежду си чрез синапси. Само в този случай това не са клетки, а изчислителни единици, които получават и издават определена информация. Те са разделени на няколко типа (входни, скрити, изходни и контекстни). Благодарение на малкото разнообразие от видове е възможно да се организира примитивен модел на това, което наричаме мислене.

Синапсите на невроните в ANN също имат свои собствени параметри. Всяка връзка между изчислителна единица е надарена с тегло, поради което информацията от неврон с голямо тегло се счита за доминираща. В процеса на настройка и обучение на изкуствена невронна мрежа параметрите на теглото могат да се променят многократно.

Какво има вътре?

За да създадете ANN, можете да използвате различни инструменти и езици за програмиране; невронните мрежи в Python са най-популярни като обучение. Този скриптов език е един от най-лесните за научаване и е идеален за разработване на ANN. Невронните мрежи на Java са по-малко популярни поради по-сложното им писане.

Какво се крие "под капака" на ANN понякога е неизвестно дори за самия разработчик. По време на обучение системата може да промени формата си и да бъде много различна от първоначалната си форма. Огромен брой неврони са съставени от стотици перцептронни слоеве, които са "оплетени" с пластмасови мрежи от взаимовръзки.

Като цяло присъства обща формуладействията на определена невронна мрежа е доста трудно и не е необходимо. От практическа гледна точка ние се интересуваме само от входа и изхода, предоставени от програмата. Колко добре ANN се „научава“ да разглежда и идентифицира картини зависи само от успеха на машинното обучение.

Машинно обучение

Първоначално изкуственият интелект възниква като инициатива за създаване на такъв технологичен инструмент, който може да решава проблеми, които преди са били предназначени само за човешкото мислене. Областта на машинното обучение на невронни мрежи като подраздел на изкуствения интелект се появи не толкова отдавна на пресечната точка на математиката и компютърните науки. Основната цел на машинното обучение е правилното изграждане на алгоритми, базирани на реални примерисъстоянието на нещата. С прости думимашината се "научава" да избира правилното решение на проблема чрез сортиране на хиляди възможни решения.

Най-добре е машинното обучение да се разгледа подробно, като се използва примерът на ANN, който е създаден за идентифициране на обекти в снимки. Първоначално са дадени тегловните параметри на синапсите на случаен принцип. След първия резултат от обработката на изображението (често неправилен), невронната мрежа променя параметрите си, докато се научи да намира желаните обекти на снимката с висока степен на вероятност.

В някои случаи обаче "грешните уроци" могат да отменят всички усилия на разработчиците. Оскъдният набор от монотонни снимки ще доведе до факта, че програмата просто ще „запомни“ необходимите определения за всяко изображение и няма да анализира най-малките му детайли. Специално за такива цели съществува базата данни MNIST (Смесен национален институт за стандарти и технологии). Той включва десетки стандартизирани проби от ръкописни цифри върху изображения с размери 28x28 пиксела.

MNIST е напълно отворен за използване, всеки разработчик може да провери производителността на своята невронна мрежа в базата данни. В допълнение към MNIST можете да използвате базата данни ImageNet от Станфордския университет. Включва около 14 милиона изображения в различни формати.

Видове невронни мрежи

По естеството на връзките ANN се класифицират в повтарящи се невронни мрежи, радиални базисни функции и самоорганизиращи се карти. При повтарящи се ANN сигналът от изходните неврони се връща частично обратно в системата за допълнителен анализ. Радиалните базисни мрежи се обучават по-бързо поради различното разположение на скрития и изходния слой от неврони. И накрая, самоорганизиращите се мрежи се използват за бързо идентифициране на нови непознати обекти.

ANN също се класифицират според естеството на обучението, настройките на теглото, видовете входни данни и много други характеристики. В практическата употреба най-широко се използват възможностите само на трите гореспоменати архитектури на невронни мрежи.

Цел и обхват

Изкуственият интелект вече не е изобретение на писатели на научна фантастика, най-простите му модели се прилагат дори в обикновени смартфони. ANN се използват за три основни цели:

  • Класификацията е разпределението на голямо количество данни въз основа на определени параметри. Например една програма може да реши на кои банкови клиенти да отпусне заеми въз основа на тяхната платежоспособност и кредитна история;
  • Прогнозиране - предвиждане на изхода от събития с определена степен на вероятност. Например колко ще струва един пакет акции на борсата;
  • Разпознаването е идентифициране на определени обекти в снимка или видео. Най-простият пример– автоматично разпознаване на лица в камерата на смартфона.

Досега приложенията за разкрасяване на селфита и услугите за търсене на хора с една снимка остават единствените приложения за невронни мрежи. Vinci, Snapchat или FaceApp обаче са само върхът на айсберга. ANN могат да дадат значителен тласък на автоматизацията на транспорта, финансите, развлеченията и други области. Благодарение на изкуствения интелект скоро ще бъде възможно да се отървем от монотонния човешки труд.

Нещо повече, дори творчеството може да бъде пуснато на поток. Благодарение на усилията на разработчиците на Yandex се появи първият музикален албум 404, записан от невронна мрежа. Албумът стана първата колекция на несъществуващата група Neuronnaya Oborona, базирана на стила на текстовете на Yegor Letov.

ANN могат да бъдат отправна точка за по-нататъшно развитие на асистенти като Siri или Cortana. Вече такива системи могат да поддържат обикновен разговор и да отговорят на желаната потребителска заявка. Услугата Deep Dream, която даде началото на бума на невронните мрежи през 2016 г., е отделена от разработчиците на Google. На примера на обработените от него снимки можете да си представите как една машина вижда това или онова изображение със своя „мозък“. Разбира се, докато нечетливите заплитания са по-скоро като отрицателните ефекти на психеделичните лекарства. Въпреки това, това вече е първата сериозна стъпка към пълноценен изкуствен интелект.


Изкуствен интелект, невронни мрежи, машинно обучение - какво всъщност означават всички тези популярни сега понятия? За повечето непосветени хора, какъвто съм и аз, те винаги са изглеждали като нещо фантастично, но всъщност същността им е на повърхността. Отдавна имах идеята да пиша на прост език за изкуствените невронни мрежи. Научете сами и кажете на другите какво представлява тази технология, как работи, разгледайте нейната история и перспективи. В тази статия се опитах да не влизам в джунглата, а просто и популярно да говоря за тази обещаваща област в света на високите технологии.


Изкуствен интелект, невронни мрежи, машинно обучение - какво всъщност означават всички тези популярни сега понятия? За повечето непосветени хора, какъвто съм и аз, те винаги са изглеждали нещо фантастично, но всъщност същността им е на повърхността. Отдавна имах идеята да пиша на прост език за изкуствените невронни мрежи. Научете сами и кажете на другите какво представлява тази технология, как работи, разгледайте нейната история и перспективи. В тази статия се опитах да не влизам в джунглата, а просто и популярно да говоря за тази обещаваща област в света на високите технологии.

Малко история

За първи път концепцията за изкуствени невронни мрежи (ANN) възниква при опит за моделиране на процесите на мозъка. Първият голям пробив в тази област може да се счита за създаването на модела на невронната мрежа McCulloch-Pitts през 1943 г. Учените за първи път разработиха модел на изкуствен неврон. Те също предложиха изграждането на мрежа от тези елементи за извършване на логически операции. Но най-важното е, че учените са доказали, че такава мрежа е способна да учи.

Следващата важна стъпка беше разработването от Доналд Хеб на първия алгоритъм за изчисление на ANN през 1949 г., който стана основен за следващите няколко десетилетия. През 1958 г. Франк Розенблат разработва парсептрон, система, която имитира мозъчните процеси. Едно време технологията нямаше аналози и все още е фундаментална в невронните мрежи. През 1986 г., почти едновременно, независимо един от друг, американски и съветски учени значително подобриха основния метод за обучение на многослоен перцептрон. През 2007 г. невронните мрежи претърпяха ново раждане. Британският компютърен учен Джефри Хинтън е пионер в алгоритъма за дълбоко обучение за многослойни невронни мрежи, който сега се използва например за управление на безпилотни превозни средства.

Накратко за основното

В общия смисъл на думата невронните мрежи са математически модели, които работят на принципа на мрежите от нервни клетки в животинския организъм. ANN могат да бъдат внедрени както в програмируеми, така и в хардуерни решения. За по-лесно възприемане невронът може да бъде представен като вид клетка, която има много входове и един изход. Как множеството входящи сигнали се формират в изходящ сигнал се определя от алгоритъма за изчисление. Ефективните стойности се подават към всеки вход на неврон, които след това се разпределят по междуневронните връзки (синопсиси). Синапсите имат един параметър - теглото, поради което входната информация се променя при преминаване от един неврон към друг. Най-лесният начин да разберете как работят невронните мрежи е да използвате смесване на цветове като пример. Синият, зеленият и червеният неврон имат различни тегла. Информацията на този неврон, чиято тежест ще бъде доминираща в следващия неврон.

Самата невронна мрежа е система от много такива неврони (процесори). Поотделно, тези процесори са доста прости (много по-прости от персонален компютър), но когато са свързани в голяма система, невроните са в състояние да изпълняват много сложни задачи.

В зависимост от областта на приложение, невронната мрежа може да се интерпретира по различни начини.Например, от гледна точка на машинното обучение, ANN е метод за разпознаване на образи. От математическа гледна точка това е многопараметрична задача. От гледна точка на кибернетиката - модел на адаптивно управление на роботиката. За изкуствения интелект ANN е основен компонент за моделиране на естествения интелект с помощта на изчислителни алгоритми.

Основното предимство на невронните мрежи пред конвенционалните изчислителни алгоритми е способността им да бъдат обучавани. В общия смисъл на думата обучението се състои в намирането на правилните коефициенти на комуникация между невроните, както и в обобщаване на данни и идентифициране на сложни връзки между входни и изходни сигнали. Всъщност успешното обучение на невронни мрежи означава, че системата ще може да идентифицира правилния резултат въз основа на данни, които не са в набора за обучение.

Днешната ситуация

И колкото и обещаваща да е тази технология, засега ANN все още са много далеч от възможностите на човешкия мозък и мислене. Независимо от това, невронните мрежи вече се използват в много области на човешката дейност. Засега те не са в състояние да вземат високо интелигентни решения, но са в състояние да заменят човек, където преди това е бил необходим. Сред многобройните области на приложение на ANN са: създаване на самообучаващи се системи за производствени процеси, безпилотни превозни средства, системи за разпознаване на изображения, интелигентни системи за сигурност, роботика, системи за мониторинг на качеството, гласови интерфейсивзаимодействия, системи за анализ и много други. Такова широко разпространение на невронни мрежи, наред с други неща, се дължи на появата на различни начиниускоряване на обучението на ANN.

Към днешна дата пазарът на невронни мрежи е огромен - той е милиарди и милиарди долари. Както показва практиката, повечето технологии за невронни мрежи по света се различават малко една от друга. Използването на невронни мрежи обаче е много скъпо упражнение, което в повечето случаи могат да си позволят само големи компании. За разработването, обучението и тестването на невронни мрежи е необходима голяма изчислителна мощност, очевидно е, че големите играчи на ИТ пазара имат достатъчно от това. Сред основните компании, водещи разработки в тази област, са подразделението Google DeepMind, подразделението Microsoft Research, IBM, Facebook и Baidu.

Разбира се, всичко това е добре: невронните мрежи се развиват, пазарът расте, но досега основната задача не е решена. Човечеството не е успяло да създаде технология, която дори да се доближава по възможности до човешкия мозък. Нека да разгледаме основните разлики между човешкия мозък и изкуствените невронни мрежи.

Защо невронните мрежи са все още далеч от човешкия мозък?

Най-важната разлика, която коренно променя принципа и ефективността на системата е различна екипировкасигнали в изкуствените невронни мрежи и в биологичната мрежа от неврони. Факт е, че в ANN невроните предават стойности, които са реални стойности, тоест числа. В човешкия мозък импулсите се предават с фиксирана амплитуда и тези импулси са почти мигновени. От това следват редица предимства на човешката мрежа от неврони.

Първо, комуникационните линии в мозъка са много по-ефективни и икономични от тези в ANN. Второ, импулсната верига осигурява простотата на реализацията на технологията: достатъчно е да се използват аналогови схеми вместо сложни изчислителни механизми. В крайна сметка импулсните мрежи са защитени от звукови смущения. Реалните числа се влияят от шум, което увеличава вероятността от грешка.

Резултат

Разбира се, през последното десетилетие се наблюдава истински бум в развитието на невронните мрежи. Това се дължи главно на факта, че процесът на обучение на ANN стана много по-бърз и лесен. Също така започнаха активно да се развиват така наречените „предварително обучени“ невронни мрежи, които могат значително да ускорят процеса на внедряване на технологията. И ако е твърде рано да се каже дали невронните мрежи някога ще могат да възпроизведат напълно възможностите на човешкия мозък, вероятността през следващото десетилетие ANN да могат да заменят човек в една четвърт от съществуващите професии все повече става подобна на истина.

За тези, които искат да знаят повече

  • Голямата невронна война: Какво наистина прави Google
  • Как когнитивните компютри могат да променят нашето бъдеще


Зареждане...
Връх