Creați și testați sisteme stabile controlate de AI într-o manieră riguroasă și flexibilă | Știri MIT

Rețelele neuronale au avut un impact uriaș asupra modului în care inginerii proiectează dispozitive de control pentru roboți, stimulând dezvoltarea unor mașini mai adaptabile și mai eficiente. Cu toate acestea, sistemele de învățare automată asemănătoare creierului sunt o sabie cu două tăișuri: complexitatea lor le face puternice, dar face și dificilă garantarea că un robot alimentat de o rețea neuronală își va îndeplini sarcina în siguranță.

Modul tradițional de verificare a integrității și stabilității este prin tehnici numite funcții Lyapunov. Dacă puteți găsi o funcție Lyapunov a cărei valoare este în scădere constantă, puteți ști că situațiile nesigure sau instabile asociate cu valori mai mari nu vor apărea niciodată. Cu toate acestea, pentru roboții controlați de rețele neuronale, metodele anterioare de verificare a condițiilor Lyapunov nu erau potrivite pentru mașinile complexe.

Cercetătorii de la Laboratorul de Informatică și Inteligență Artificială al MIT și din alte părți au dezvoltat noi tehnici care validează riguros calculele lui Lyapunov în sisteme mai complexe. Algoritmul lor caută și verifică eficient funcția Lyapunov, oferind o garanție a stabilității sistemului. Această abordare ar putea permite desfășurarea mai sigură a roboților și a vehiculelor autonome, inclusiv a aeronavelor și a navelor spațiale.

Pentru a depăși algoritmii anteriori, cercetătorii au găsit o scurtătură economică către procesul de instruire și validare. Au creat contraexemple mai ieftine – de exemplu, date ostile de la senzori care ar fi aruncat controlerul – și apoi au îmbunătățit sistemul automat pentru a ține cont de acele exemple. Înțelegerea acestor carcase marginale a ajutat mașinile să învețe cum să facă față condițiilor dificile, permițându-le să opereze în siguranță într-o gamă mai largă de condiții decât era posibil anterior. Ei au dezvoltat apoi o nouă formulare de verificare care permite utilizarea unui verificator de rețele neuronale scalabile, α,β-CROWN, pentru a oferi garanții stricte pentru scenariile cele mai defavorabile dincolo de contraexemple.

„Am văzut „Câteva performanțe experimentale impresionante în mașinile controlate de AI, cum ar fi oamenii și câinii-roboți, dar acestor controlere AI le lipsesc garanțiile formale care sunt esențiale pentru sistemele critice pentru siguranță”. „Munca noastră face o punte între acest nivel de performanță al controlerelor de rețea neuronală și garanțiile de siguranță necesare pentru a implementa controlere de rețea neuronală mai complexe în lumea reală”, notează Yang.

Într-o demonstrație digitală, echipa a simulat modul în care o dronă quadcopter echipată cu senzori lidar s-ar stabiliza într-un mediu 2D. Algoritmul lor a ghidat cu succes drona într-o poziție stabilă de zbor, folosind doar informațiile limitate de mediu furnizate de senzorii lidar. În alte două experimente, abordarea lor a permis funcționarea stabilă a două sisteme robotizate simulate într-o gamă mai largă de condiții: un pendul inversat și un vehicul care urmărește calea. Aceste experimente, deși modeste, sunt relativ mai complexe decât ceea ce comunitatea de verificare a rețelelor neuronale a fost capabilă să facă înainte, mai ales că implică modele de senzori.

„Spre deosebire de problemele comune de învățare automată, utilizarea precisă a rețelelor neuronale ca funcții Lyapunov necesită rezolvarea problemelor dificile de optimizare globală, astfel încât scalabilitatea „este principalul blocaj”. „Prezenta lucrare aduce o contribuție importantă prin dezvoltarea unor abordări algoritmice mai bine concepute pentru utilizarea specifică a rețelelor neuronale, deoarece Lyapunov funcționează în problemele de control dezvoltarea în continuare a algoritmilor de optimizare pentru metodele neuronale Lyapunov și utilizarea „Acuratețea învățării profunde în control și robotică în general”.

Abordarea stabilității inițiată de Yang și colegii săi are aplicații potențiale largi în care asigurarea siguranței este crucială. Ar putea asigura o călătorie mai lină pentru vehiculele autonome, cum ar fi avioanele și navele spațiale. De asemenea, dronele care livrează articole sau cartografiază diferite terenuri ar putea beneficia de astfel de asigurări de siguranță.

Tehnicile dezvoltate aici sunt foarte generale și nu se limitează doar la robotică; Aceleași tehnologii ar putea ajuta în alte aplicații, cum ar fi biomedicina și prelucrarea industrială, în viitor.

Deși această tehnică reprezintă o actualizare față de lucrările anterioare în ceea ce privește scalabilitatea, cercetătorii explorează cum ar putea funcționa mai bine în sistemele cu dimensiuni mai mari. De asemenea, doresc să ia în considerare date dincolo de citirile lidar, cum ar fi imaginile și norii de puncte.

Ca direcție viitoare de cercetare, echipa ar dori să ofere aceleași garanții de stabilitate pentru sistemele situate în medii incerte care sunt predispuse la perturbări. De exemplu, dacă o dronă întâlnește o rafală puternică de vânt, Yang și colegii ei vor să se asigure că va rămâne stabilă și va finaliza misiunea.

De asemenea, intenționează să-și aplice metoda la problemele de optimizare, în care scopul este de a reduce timpul și distanța de care un robot are nevoie pentru a finaliza o sarcină, menținând în același timp stabilitatea. Ei plănuiesc să-și extindă tehnologia pentru a include oameni și alte mașini din lumea reală, unde un robot trebuie să rămână stabil în timp ce comunică cu mediul înconjurător.

Ross Tedrick, profesor de inginerie electronică, mecanică și aerospațială la MIT, vicepreședinte pentru cercetare în robotică la TRIS și membru al Institutului pentru Științe Calculatoare și Inteligență Artificială, este unul dintre autorii principali ai acestei lucrări. Lucrarea merită, de asemenea, studentului doctorat UCLA Chuxing Shi și profesorului asistent Zhou-Jui Hsieh, precum și profesorului asistent Huan Zhang de la Universitatea Illinois din Urbana-Champaign. Munca lor a fost susținută parțial de Amazon, Fundația Națională pentru Știință, Biroul de Cercetare Navală și programul AI2050 de la Schmidt Sciences. Lucrarea cercetătorilor va fi prezentată la Conferința internațională din 2024 privind învățarea automată.