View source for Apprendimento automatico

[[File:Feed-forward-perceptron.svg|thumb|[[Rete neurale artificiale]] di tipo ''[[Rete neurale feed-forward|feed-forward]]''.]]
L{{'}}'''apprendimento automatico''' ({{Inglese|machine learning}}, abbreviato in '''''ML''''') è una branca dell'[[intelligenza artificiale]] che raccoglie metodi sviluppati negli ultimi decenni del [[xX secolo|XX secolo]] in varie comunità scientifiche, sotto diversi nomi quali: [[statistica computazionale]], [[riconoscimento di pattern]], [[rete neurale artificiale|reti neurali artificiali]], filtraggio adattivo, teoria dei [[sistema dinamico|sistemi dinamici]], [[elaborazione delle immagini]], [[data mining]], [[algoritmo genetico|algoritmi adattivi]], ecc; che utilizza metodi [[statistica|statistici]] per migliorare la performance di un [[algoritmo]] nell'identificare pattern nei dati. Nell'ambito dell'[[informatica]], l'apprendimento automatico è una variante alla [[Programmazione (informatica)|programmazione]] tradizionale nella quale in una macchina si predispone l'abilità di apprendere qualcosa dai dati in maniera autonoma, senza istruzioni esplicite<ref name=":0">{{Cita libro|cognome=De Mauro, Andrea.|titolo=Big data analytics : guida per iniziare a classificare e interpretare dati con il machine learning|url=https://www.worldcat.org/oclc/1065010076|accesso=10 novembre 2019|data=2019|editore=Apogeo|oclc=1065010076|ISBN=9788850334780}}</ref><ref>{{Cita libro|cognome=Bishop, Christopher M.|titolo=Pattern recognition and machine learning|url=https://www.worldcat.org/oclc/71008143|accesso=10 novembre 2019|data=2006|editore=Springer|oclc=71008143|ISBN=0387310738}}</ref>. Gli algoritmi di apprendimento automatico sono utilizzati in un'ampia varietà di branche del sapere, come la [[medicina]], il filtraggio delle [[Posta elettronica|e-mail]], il [[riconoscimento vocale]] e la [[visione artificiale]], dove è difficile o non fattibile sviluppare algoritmi convenzionali per eseguire i compiti richiesti<ref>{{Cita pubblicazione|nome=Junyan|cognome=Hu|nome2=Hanlin|cognome2=Niu|nome3=Joaquin|cognome3=Carrasco|data=2020-12|titolo=Voronoi-Based Multi-Robot Autonomous Exploration in Unknown Environments via Deep Reinforcement Learning|rivista=IEEE Transactions on Vehicular Technology|volume=69|numero=12|pp=14413-14423|accesso=20 maggio 2022|doi=10.1109/TVT.2020.3034800|url=https://ieeexplore.ieee.org/document/9244647}}</ref>.

[[Arthur Samuel]], che coniò il termine nel 1959<ref>{{Cita pubblicazione|autore=Arthur L. Samuel|anno=1959|titolo=Some studies in machine learning using the game of checkers|rivista=IBM Journal of research and development}}</ref>, in linea di principio identifica due approcci distinti. Il primo metodo, indicato come rete neurale, sviluppa macchine ad apprendimento automatico per impiego generale il cui comportamento è appreso da una rete di commutazione connessa casualmente, a seguito di una routine di apprendimento basata su ricompensa e punizione ([[apprendimento per rinforzo]]). Il secondo metodo, più specifico, consiste nel riprodurre l'equivalente di una rete altamente organizzata progettata per imparare solo attività specifiche. La seconda procedura, che necessita di supervisione e richiede la riprogrammazione per ogni nuova applicazione, è molto più efficiente dal punto di vista computazionale.

L'apprendimento automatico è strettamente legato al [[riconoscimento di pattern]] e alla [[teoria dell'apprendimento computazionale]]<ref>https://www.britannica.com/EBchecked/topic/1116194/machine-learning</ref> ed esplora lo studio e la costruzione di algoritmi che possano apprendere da un insieme di dati e fare delle predizioni su questi,<ref>Ron Kohavi; Foster Provost (1998). "Glossary of terms". Machine Learning. 30: 271–27</ref> costruendo in modo induttivo un modello basato su dei campioni. L'apprendimento automatico viene impiegato in quei campi dell'informatica nei quali progettare e programmare [[algoritmi]] espliciti è impraticabile; tra le possibili applicazioni citiamo il filtraggio delle email per evitare [[spam]], l'individuazione di intrusioni in una rete o di intrusi che cercano di violare dati,<ref>{{cita testo|url=https://techcrunch.com/2016/07/01/exploiting-machine-learning-in-cybersecurity/|titolo=TechCrunch}}</ref> il [[riconoscimento ottico dei caratteri]]<ref>Wernick, Yang, Brankov, Yourganov and Strother, Machine Learning in Medical Imaging, IEEE Signal Processing Magazine, vol. 27, no. 4, July 2010, pp. 25-38</ref>, i [[motori di ricerca]] e la [[visione artificiale]].

L'apprendimento automatico è collegato, e spesso si sovrappone, alla [[statistica computazionale]], che si occupa dell'elaborazione di predizioni tramite l'uso di [[computer]]. L'apprendimento automatico è anche fortemente legato all'[[Ottimizzazione (matematica)|ottimizzazione matematica]], che fornisce metodi, teorie e domini di applicazione a questo campo. Per usi commerciali, è conosciuto come [[analisi predittiva]].

== Storia ==
L'apprendimento automatico si sviluppa con lo studio dell'intelligenza artificiale, e vi è strettamente collegato: infatti già dai primi tentativi di definire l'intelligenza artificiale come disciplina accademica, alcuni ricercatori si erano mostrati interessati alla possibilità che le macchine imparassero dai dati. Questi ricercatori, in particolare [[Marvin Minsky]], [[Arthur Samuel]] e [[Frank Rosenblatt]], provarono ad avvicinarsi al problema sia attraverso vari metodi formali, sia con quelle che vengono definite [[Rete neurale artificiale|reti neurali]] nei tardi anni '50. Le reti neurali erano allora costituite da singoli [[Percettrone|percettroni]] e da modelli matematici derivati dal [[modello lineare generalizzato]] della statistica, come l'[[ADALINE]] di Widrow<ref>{{Cita pubblicazione|autore=B. Widrow, M.E. Hoff (1960)|titolo=Adaptive switching circuits|rivista=IRE WESCON, Conv. Rec.|volume=pt. 4, pp. 96-104}}</ref><ref>{{Cita web|url=https://www.youtube.com/watch?v=IEFRtz68m-8&t=521s|titolo=Science in Action (TV series) television programme produced by the California Academy of Sciences}}</ref>. Si provò a sfruttare anche ragionamenti [[Teoria della probabilità|probabilistici]], in particolare nelle diagnosi mediche automatiche<ref name="aima">Russell, Stuart; Norvig, Peter (2003) [1995]. Artificial Intelligence: A Modern Approach (2nd ed.). Prentice Hall. ISBN 978-0-13-790395-5</ref>.

Sempre negli anni '50, [[Alan Turing]] propose l'idea di una ''macchina che apprende'', ovvero in grado di imparare e dunque diventare intelligente. La proposta specifica di Turing anticipa gli [[Algoritmo genetico|algoritmi genetici]]<ref>{{cita pubblicazione |nome=Alan |cognome=Turing |titolo=COMPUTING MACHINERY AND INTELLIGENCE |rivista=MIND |volume=59 |numero=236 |anno=1950 |mese=ottobre |pp=433-460 |url=https://mind.oxfordjournals.org/content/LIX/236/433 |lingua=inglese |doi=10.1093/mind/LIX.236.433 |accesso=8 giugno 2016 |urlarchivio=https://web.archive.org/web/20160412042046/http://mind.oxfordjournals.org/content/LIX/236/433 |urlmorto=sì }}</ref>.

Tuttavia già dalla metà degli anni '50 lo studio dell'intelligenza artificiale si stava concentrando su approcci logici di tipo ''knowledge-based'', nota oggi sotto il nome di [[GOFAI]], causando un distacco tra lo studio dell'IA e quello dell'apprendimento automatico. Sistemi di tipo probabilistico erano invasi di problemi sia teoretici sia pratici in termini di acquisizione e rappresentazione dei dati<ref name="aima"/>. Negli anni Ottanta, i [[Sistema esperto|sistemi esperti]] dominavano il campo dell'IA, e i sistemi basati sulla statistica non venivano più studiati<ref name="changing">{{cita pubblicazione | nome=Pat |cognome=Langley |titolo=The changing science of machine learning |rivista=Machine Learning |volume=82 |anno=2011 |mese=ottobre |pp=275-279 |lingua=inglese |doi=10.1007/s10994-011-5242-y }}</ref>.
Lo studio dell'apprendimento simbolico e ''knowledge-based'' continuò nell'ambito dell'IA, portando a sviluppare la [[programmazione logica induttiva]], ma ora la ricerca più prettamente statistica si svolgeva al di fuori del campo vero e proprio dell'intelligenza artificiale, nel [[riconoscimento di pattern]] e nell'[[information retrieval]]<ref name="aima"/>.
Un altro motivo per cui lo studio dell'apprendimento automatico fu abbandonato fu la pubblicazione del libro ''Perceptrons: an introduction to computational geometry'' di [[Marvin Minsky]] e [[Seymour Papert]], che vi descrivevano alcune delle limitazioni dei percettroni e delle [[reti neurali]]. La ricerca sulle reti neurali subì un significativo rallentamento a causa dell'interpretazione del libro, che le descriveva come intrinsecamente limitate<ref>{{cita web|url=http://harveycohen.net/image/perceptron.html|titolo=The Perceptron|nome=Harvey |cognome=Cohen | lingua=inglese| accesso= 5 giugno 2016}}</ref><ref>{{cita web|url=http://www.slideshare.net/bobcolner/a-brief-history-of-machine-learning|titolo=A brief history of machine learning|nome=Robert |cognome=Colner | lingua=inglese| accesso= 5 giugno 2016}}</ref>. Anche la linea di ricerca sulle reti neurali continuò al di fuori del campo dell'IA, portata avanti da ricercatori provenienti da altre discipline quali [[John Hopfield|Hopfield]], [[David Rumelhart|Rumelhart]], [[Geoffrey Hinton|Hinton]] e Fukushima. Il loro successo principale fu a metà degli anni '80 con la riscoperta della ''[[backpropagation]]''<ref name="aima"/> e della self-organization<ref>{{Cita pubblicazione|nome=Kunihiko|cognome=Fukushima|data=1º settembre 1975|titolo=Cognitron: A self-organizing multilayered neural network|rivista=Biological Cybernetics|volume=20|numero=3|pp=121-136|lingua=en|accesso=12 novembre 2019|doi=10.1007/BF00342633|url=https://doi.org/10.1007/BF00342633}}</ref>.

L'apprendimento automatico, sviluppatosi come campo di studi separato dall'IA classica, cominciò a rifiorire negli anni '90. Il suo obiettivo cambiò dall'ottenere l'intelligenza artificiale ad affrontare problemi risolvibili di natura pratica. Distolse inoltre la propria attenzione dagli approcci simbolici che aveva ereditato dall'IA, e si diresse verso metodi e modelli presi in prestito dalla statistica e dalla [[teoria della probabilità]]<ref name="changing"/>. L'apprendimento automatico ha inoltre beneficiato dalla nascita di [[Internet]], che ha reso l'informazione digitale più facilmente reperibile e distribuibile.

Un teorema pubblicato nell'agosto 2022 ha dimostrato che, nel caso di un [[computer quantistico]], per una vasta classe di problemi è errata l'ipotesi secondo cui la dimensione del campione di dati che deve essere processato dalla macchina ad apprendimento automatico sia descritta da uno [[spazio di Hilbert]] che cresce esponenzialmente col numero di [[qubit]] addestrati. Ad esempio, per vari anni si è ipotizzato che per addestrare 30 qubit fosse necessario un miliardo di punti-dato. La quantità di dati che è necessario elaborare è significativamente inferiore e rende possibile eseguire la compilazione e l'addestramento del modello ad apprendimento automatico direttamente su un computer classico.<ref>{{cita web|url=https://www.hpcwire.com/off-the-wire/quantum-ai-breakthrough-new-theorem-shrinks-need-for-training-data/|titolo=Quantum AI Breakthrough: New Theorem Shrinks Need for Training Data|data=24 agosto 2022}}</ref>

== Generalità ==
[[Tom M. Mitchell]] ha fornito la definizione più citata di apprendimento automatico nel suo libro di testo "''Machine Learning''"<ref name=":1" />: "''Si dice che un programma apprende dall'esperienza E con riferimento a alcune classi di compiti T e con misurazione della performance P, se le sue performance nel compito T, come misurato da P, migliorano con l'esperienza E.''"<ref name=":1">Mitchell, T. (1997). Machine Learning. McGraw Hill. p. 2. ISBN 0-07-042807-7.</ref> In poche parole, si potrebbe semplificare dicendo che un programma apprende se c'è un miglioramento delle prestazioni dopo un compito svolto. Questa definizione di Mitchell è rilevante poiché fornisce una definizione operativa dell'apprendimento automatico, invece che in termini cognitivi. Fornendo questa definizione, Mitchell di fatto segue la proposta che [[Alan Turing]] fece nel suo articolo "''Computing Machinery and Intelligence''", sostituendo la domanda "''Le macchine possono pensare?''" con la domanda "''Le macchine possono fare quello che noi (in quanto entità pensanti) possiamo fare?''"<ref>Harnad, Stevan (2008), "The Annotation Game: On Turing (1950) on Computing, Machinery, and Intelligence", in Epstein, Robert; Peters, Grace, The Turing Test Sourcebook: Philosophical and Methodological Issues in the Quest for the Thinking Computer, Kluwer</ref>.

=== Teoria dell'apprendimento ===
L'obiettivo principe dell'apprendimento automatico è che una macchina sia in grado di generalizzare dalla propria esperienza<ref>[[Bishop, C. M.]] (2006), Pattern Recognition and Machine Learning, Springer, ISBN 0-387-31073-8</ref>, ossia che sia in grado di svolgere ragionamenti [[Induzione|induttivi]]. In questo contesto, per generalizzazione si intende l'abilità di una macchina di portare a termine in maniera accurata esempi o compiti nuovi, che non ha mai affrontato, dopo aver fatto esperienza su un insieme di dati di apprendimento. Gli esempi di addestramento (in inglese chiamati ''training examples'') si assume provengano da una qualche distribuzione di probabilità, generalmente sconosciuta e considerata rappresentativa dello spazio delle occorrenze del fenomeno da apprendere; la macchina ha il compito di costruire un modello probabilistico generale dello spazio delle occorrenze, in maniera tale da essere in grado di produrre previsioni sufficientemente accurate quando sottoposta a nuove ipotesi.

L'analisi computazionale degli algoritmi di apprendimento automatico e delle loro prestazioni è una branca dell'[[Informatica teorica]] chiamata [[Teoria dell'apprendimento computazionale|teoria dell'apprendimento]]. Dato che gli esempi di addestramento sono insiemi finiti di dati e non c'è modo di sapere l'evoluzione futura di un modello, la teoria dell'apprendimento non offre alcuna garanzia sulle prestazioni degli algoritmi. D'altro canto, è piuttosto comune che tali prestazioni siano vincolate da limiti probabilistici. Il [[compromesso bias-varianza]] è uno dei modi per quantificare l'[[Errore statistico|errore]] di generalizzazione.

Affinché la generalizzazione offra le migliori prestazioni possibili, la complessità dell'[[Induzione|ipotesi induttiva]] deve essere pari alla complessità della funzione sottostante i dati. Se l'ipotesi è meno complessa della funzione, allora il modello manifesta ''underfitting''. Quando la complessità del modello viene aumentata in risposta, allora l'errore di apprendimento diminuisce. Al contrario invece se l'ipotesi è troppo complessa, allora il modello manifesta [[overfitting]] e la generalizzazione sarà più scarsa<ref>Ethem Alpaydin. "{{cita testo|url=https://books.google.com/books?id=NP5bBAAAQBAJ&printsec=frontcover&dq=ethem+alpaydin&hl=tr&sa=X&redir_esc=y#v=onepage&q=ethem%20alpaydin&f=false|titolo=Introduction to Machine Learning}}" The MIT Press, 2010</ref>.

Oltre ai limiti di prestazioni, i teorici dell'apprendimento studiano la complessità temporale e la fattibilità dell'apprendimento stesso. Una computazione è considerata fattibile se può essere svolta in [[tempo polinomiale]].

=== Tipi di problemi e compiti ===
I compiti dell'apprendimento automatico vengono tipicamente classificati in tre ampie categorie, a seconda della natura del "segnale" utilizzato per l'apprendimento o del "feedback" disponibile al sistema di apprendimento. Queste categorie, anche dette paradigmi, sono:<ref name="aima"/>
* [[apprendimento supervisionato]], in cui al modello vengono forniti degli esempi nella forma di possibili input e i rispettivi output desiderati e l'obiettivo è quello di estrarre una regola generale che associ l'input all'output corretto;
* [[apprendimento non supervisionato]], in cui il modello ha lo scopo di trovare una struttura negli input forniti, senza che questi vengano etichettati in alcun modo;
* [[apprendimento per rinforzo]], in cui il modello interagisce con un ambiente dinamico nel quale cerca di raggiungere un obiettivo (per esempio guidare un veicolo), avendo un insegnante che gli dice solo se ha raggiunto l'obiettivo. Un altro esempio è quello di imparare a giocare un gioco giocando contro un avversario<ref name="ReferenceA">Machine learning and pattern recognition "can be viewed as two facets of the same field."</ref>.

A metà strada tra l'apprendimento supervisionato e quello non supervisionato c'è l'[[apprendimento semi-supervisionato]], nel quale l'insegnante fornisce un dataset incompleto per l'allenamento, cioè un insieme di dati per l'allenamento tra i quali ci sono dati senza il rispettivo output desiderato. La trasduzione è un caso speciale di questo principio, nel quale l'intero insieme delle istanze del problema è noto durante l'apprendimento, eccetto la parte degli output desiderati che è mancante.

Un'altra categorizzazione dei compiti dell'apprendimento automatico si rileva quando si considera l'output desiderato del sistema di apprendimento automatico.<ref name="ReferenceA"/>

* Nella [[Classificazione statistica|classificazione]], gli output sono divisi in due o più classi e il sistema di apprendimento deve produrre un modello che assegni gli input non ancora visti a una o più di queste. Questo viene affrontato solitamente in maniera supervisionata. Il filtraggio anti-spam è un esempio di classificazione, dove gli input sono le email e le classi sono "spam" e "non spam".
* Nella [[regressione]], che è anch'essa un problema supervisionato, l'output e il modello utilizzati sono [[Continuo|continui]]. Un esempio di regressione è la determinazione della quantità di olio presente in un oleodotto, avendo le misurazioni dell'attenuazione dei raggi gamma che passano attraverso il condotto. Un altro esempio è la predizione del valore del tasso di cambio di una valuta nel futuro, dati i suoi valori in tempi recenti.<ref>[[Bishop, C. M.]] (2006), Machine Learning and Pattern Recognition, Clarendon Press, pp. 5–6</ref>
* Nel [[clustering]] un insieme di input viene diviso in gruppi. Diversamente da quanto accade per la classificazione, i gruppi non sono noti prima, rendendolo tipicamente un compito non supervisionato. Un tipico esempio di clustering è l'analisi del comportamento degli utenti di un sito web.

=== Statistica e apprendimento automatico ===
{{vedi anche|Statistica}}
L'apprendimento automatico e la statistica sono discipline strettamente collegate. Secondo [[Michael I. Jordan]], le idee dell'apprendimento automatico, dai principi metodologici agli strumenti teorici, sono stati sviluppati prima in statistica<ref name="mi jordan ama">{{cita web|url=https://www.reddit.com/r/MachineLearning/comments/2fxi6v/ama_michael_i_jordan/ckelmtt?context=3|titolo=statistics and machine learning|autore= M. I. Jordan|sito= reddit| data=10 settembre 2014|lingua=inglese|accesso=1º ottobre 2014}}</ref>. Jordan ha anche suggerito il termine [[data science]] come nome con cui chiamare l'intero campo di studi<ref name="mi jordan ama" />.

[[Leo Breiman]] ha distinto due paradigmi statistici di modellazione: modello basato sui dati e modello basato sugli algoritmi<ref>{{cita web|url= https://projecteuclid.org/download/pdf_1/euclid.ss/1009213726| titolo=Statistical Modeling: The Two Cultures|autore=L. Breiman| sito= projecteuclid| editore= Cornell University Library| lingua=inglese| accesso=8 agosto 2015}}</ref>, dove "modello basato sugli algoritmi" indica approssimativamente algoritmi di apprendimento automatico come la [[foresta casuale]].

Alcuni statistici hanno adottato metodi provenienti dall'apprendimento automatico, il che ha portato alla creazione di una disciplina combinata chiamata "apprendimento statistico"<ref>{{cita libro | nome=Gareth | cognome=James | nome2=Daniela | cognome2=Witten | nome3=Trevor | cognome3=Hastie | nome4=Robert | cognome4=Tibshirani | titolo=An Introduction to Statistical Learning | anno=2013 | lingua=inglese | url=http://www-bcf.usc.edu/~gareth/ISL/ | editore=Springer | p=vii | accesso=14 dicembre 2016 | urlarchivio=https://web.archive.org/web/20190623150237/http://www-bcf.usc.edu/~gareth/ISL/ | urlmorto=sì }}</ref>.

=== Data mining e apprendimento automatico ===
{{vedi anche|Data mining}}
L'apprendimento automatico viene a volte unito al [[data mining]],<ref>Mannila, Heikki (1996). Data mining: machine learning, statistics, and databases. Int'l Conf. Scientific and Statistical Database Management. IEEE Computer Society.</ref> che si focalizza maggiormente sull'analisi esplorativa dei dati ed utilizza principalmente il paradigma di apprendimento chiamato "[[apprendimento non supervisionato]]"<ref>Friedman, Jerome H. (1998). "Data Mining and Statistics: What's the connection?". Computing Science and Statistics. 29 (1): 3–9.</ref>. Invece, l'apprendimento automatico può essere anche supervisionato<ref>http://www.darkreading.com/threat-intelligence/3-flavors-of-machine-learning--who-what-and-where/a/d-id/1324278</ref>.

L'apprendimento automatico e il ''data mining'' infatti si sovrappongono in modo significativo, ma mentre l'apprendimento automatico si concentra sulla previsione basata su proprietà note apprese dai dati, il data mining si concentra sulla scoperta di proprietà prima ''sconosciute'' nei dati. Il data mining sfrutta i metodi dell'apprendimento automatico, ma con obiettivi differenti; d'altro canto, l'apprendimento automatico utilizza i metodi di data mining come metodi di apprendimento non supervisionato o come passi di preprocessing per aumentare l'accuratezza dell'apprendimento. Gran parte della confusione tra le due comunità di ricerca scaturisce dall'assunzione di base del loro operato: nell'apprendimento automatico, le prestazioni sono generalmente valutate in base all'abilità di riprodurre conoscenza già acquisita, mentre in data mining il compito chiave è la scoperta di conoscenza che prima non si aveva.

=== Ottimizzazione e apprendimento automatico ===
{{vedi anche|Ottimizzazione (informatica)}}

L'apprendimento automatico ha legami molto stretti con l'ottimizzazione: molti problemi di apprendimento sono formulati come la minimizzazione di una qualche funzione di costo su un insieme di esempi di apprendimento. La funzione di costo (o funzione di perdita) rappresenta la discrepanza tra le previsioni del modello che si sta addestrando e le istanze del problema reale. Le differenze tra i due campi (l'apprendimento automatico e l'ottimizzazione) sorgono dall'obiettivo della generalizzazione: mentre gli algoritmi di ottimizzazione possono minimizzare la perdita su un insieme di apprendimento, l'apprendimento automatico si preoccupa di minimizzare la perdita su campioni mai visti dalla macchina<ref>{{Cita libro |autore-capitolo-cognome=Le Roux |autore-capitolo-nome=Nicolas |autore-capitolo-nome2=Yoshua |autore-capitolo-cognome2=Bengio |autore-capitolo-nome3=Andrew |autore-capitolo-cognome3=Fitzgibbon |capitolo=Improving First and Second-Order Methods by Modeling Uncertainty |titolo=Optimization for Machine Learning |url=https://archive.org/details/optimizationform00sras |anno=2012 |p={{cita testo|url=https://archive.org/details/optimizationform00sras/page/n418|titolo=404}} |curatore=Suvrit Sra |curatore2=Sebastian Nowozin |curatore3=Stephen J. Wright |editore=MIT Press}}</ref>.

=== Soft computing e apprendimento automatico ===
{{vedi anche|Soft computing}}
La risoluzione automatica di problemi avviene, nel campo dell'informatica, in due modi differenti: tramite paradigmi di ''hard computing'' o tramite paradigmi di ''soft computing''. Per ''hard computing'' si intende la risoluzione di un problema tramite l'esecuzione di un [[algoritmo]] ben definito e decidibile. La maggior parte dei paradigmi di ''hard computing'' sono metodi ormai consolidati, ma presentano alcuni lati negativi: infatti richiedono sempre un modello analitico preciso e definibile, e spesso un alto tempo di computazione. 
Le tecniche di ''soft computing'' d'altro canto antepongono il guadagno nella comprensione del comportamento di un sistema a scapito della precisione, spesso non necessaria. I paradigmi di ''soft computing'' si basano su due principi<ref>[[Kecman, V]] (2001), Learning and Soft Computing, [[MIT Press]], ISBN 978-0-262-52790-3</ref>: 
* L'apprendimento a partire da dati sperimentali;
* L'integrazione di conoscenza umana, strutturata e preesistente, all'interno di modelli matematici computabili.
L'apprendimento automatico si avvale delle tecniche di ''soft computing''.

== Approcci ==
=== Programmazione logica induttiva ===
{{Vedi anche|Programmazione logica induttiva}}

La [[programmazione logica induttiva]] (anche ILP, dall'inglese ''inductive logic programming'') è un approccio all'apprendimento di regole che usa la [[programmazione logica]] come rappresentazione uniforme per gli esempi di input, per la conoscenza di base della macchina, e per le ipotesi. Data una codifica della (nota) conoscenza di base e un insieme di esempi rappresentati come fatti in una base di dati logica, un sistema ILP deriva un programma logico ipotetico da cui conseguono tutti gli esempi positivi, e nessuno di quelli negativi. La [[programmazione induttiva]] è un campo simile che considera ogni tipo di linguaggio di programmazione per rappresentare le ipotesi invece che soltanto la programmazione logica, come ad esempio [[Programmazione funzionale|programmi funzionali]].

=== Albero di decisione ===
{{vedi anche|Albero di decisione}}
L'[[albero di decisione]] è un metodo di apprendimento per approssimazione di una [[funzione obiettivo]] discreta in cui l'elemento che apprende è rappresentato da un albero di decisione. Gli alberi di decisione possono essere rappresentati da un insieme di regole if-else per migliorare la leggibilità umana.

=== Regole di associazione ===
{{vedi anche|Regole di associazione}}

L'apprendimento automatico basato su [[regole di associazione]] è un metodo di apprendimento che identifica, apprende ed evolve delle "regole" con l'intento di immagazzinare, manipolare e applicare conoscenza. La caratteristica principale di questo tipo di apprendimento è l'identificazione ed utilizzo di un insieme di regole relazionali che rappresenta nel suo insieme la conoscenza catturata dal sistema. Ciò si pone in controtendenza con altri tipi di apprendimento automatico che normalmente identificano un singolo modello che può essere applicato universalmente ad ogni istanza per riuscire a fare su di essa una previsione<ref>{{cita pubblicazione |nome= George W.|cognome= Bassel| nome2= Enrico| cognome2= Blaab| nome3=Julietta| cognome3= Marquez | nome4= Michael J.| cognome4= Holdsworth | nome5= Jaume| cognome5= Bacardit|titolo=Functional Network Construction in Arabidopsis Using Rule-Based Machine Learning on Large-Scale Data Sets |rivista=The Plant Cell |volume= 23|numero=9 |anno=2011 |mese=9 |pp=3101-3116 | issn=1532-298X|doi=10.1105/tpc.111.088153|pmid=21896882 |url= http://www.plantcell.org/content/23/9/3101|lingua=inglese }}</ref>. Gli approcci dell'apprendimento basato su regole di associazione includono il [[sistema immunitario artificiale]].

=== Reti neurali artificiali ===
{{vedi anche|Rete neurale artificiale}}
Una [[rete neurale artificiale]] è un sistema adattivo che cambia la sua struttura basata su informazioni esterne o interne che scorrono attraverso la rete durante la fase di apprendimento.
In termini pratici le reti neurali sono strutture non-lineari di dati statistici organizzate come strumenti di modellazione. Esse possono essere utilizzate per simulare relazioni complesse tra ingressi e uscite che altre funzioni analitiche non riescono a rappresentare. Inoltre esse sono robuste agli errori presenti nei dati di addestramento.

=== Programmazione genetica ===
{{vedi anche|Algoritmo genetico}}
Gli [[algoritmi genetici]] forniscono un approccio all'apprendimento che è liberamente ispirato all'evoluzione simulata. La ricerca di una soluzione del problema inizia con una popolazione di soluzioni iniziale. I membri della popolazione attuale danno luogo a una popolazione di nuova generazione per mezzo di operazioni quali la mutazione casuale e crossover, che sono modellati sui processi di evoluzione biologica. Ad ogni passo, le soluzioni della popolazione attuale sono valutate rispetto a una determinata misura di fitness, con le ipotesi più adatte selezionate probabilisticamente come semi per la produzione della prossima generazione. Gli algoritmi genetici sono stati applicati con successo a una varietà di compiti di apprendimento e di altri problemi di ottimizzazione. Ad esempio, essi sono stati usati per imparare raccolte di norme per il controllo del robot e per ottimizzare la topologia dei parametri di apprendimento per reti neurali artificiali.

=== Reti bayesiane ===
{{vedi anche|Reti bayesiane}}

Il [[Reti bayesiane|ragionamento bayesiano]] fornisce un approccio probabilistico di inferenza. Esso si basa sul presupposto che le quantità di interesse sono disciplinate da distribuzioni di probabilità e che le decisioni ottimali possono essere prese a seguito dell'analisi di queste probabilità insieme ai dati osservati. Nell'ambito dell'apprendimento automatico, la teoria Bayesiana è importante perché fornisce un approccio quantitativo per valutare le prove a sostegno dell'ipotesi alternativa. Il Ragionamento bayesiano fornisce la base per l'apprendimento negli algoritmi che manipolano direttamente le probabilità.

=== Macchine a vettori di supporto ===
{{vedi anche|Macchina a vettori di supporto}}
[[Macchine a vettori di supporto]] (''Support Vector Machine'', SVM) sono un insieme di metodi di apprendimento supervisionato usati per la classificazione e la regressione di pattern. Dato un insieme di esempi di addestramento, ciascuno contrassegnato come appartenente a due possibili categorie, un algoritmo di addestramento SVM costruisce un modello in grado di prevedere a quale categoria deve appartenere un nuovo esempio di input.

=== Apprendimento profondo ===
{{vedi anche|Apprendimento profondo}}
La discesa dei prezzi per l'hardware e lo sviluppo di [[Graphics Processing Unit|GPU]] per uso personale negli ultimi anni hanno contribuito allo sviluppo del concetto di [[apprendimento profondo]], che consiste nello sviluppare livelli nascosti multipli nelle reti neurali artificiali. Questo approccio tenta di modellizzare il modo in cui il cervello umano processa luce e suoni e li interpreta in vista e udito. Alcune delle applicazioni più affermate dell'apprendimento profondo sono la [[visione artificiale]] e il [[riconoscimento vocale]]<ref>Honglak Lee, Roger Grosse, Rajesh Ranganath, Andrew Y. Ng. "{{cita testo|url=http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.149.802&rep=rep1&type=pdf|titolo=Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations}}" Proceedings of the 26th Annual International Conference on Machine Learning, 2009</ref>.

=== Tecniche non supervisionate ===

==== Clustering ====
{{vedi anche|Clustering}}

La cluster analisi, o [[clustering]], è in grado di rilevare similarità strutturali tra le osservazioni di un [[dataset]] attraverso l'assegnazione di un insieme di osservazioni in sottogruppi (''cluster'') di elementi tra loro omogenei<ref name=":0" />. Il clustering è un metodo di [[apprendimento non supervisionato]], e una tecnica comune per l'analisi statistica dei dati.

== Esempi di applicazioni pratiche ==
=== Riconoscimento vocale del testo ===
Tutti i sistemi di riconoscimento vocale di maggior successo utilizzano metodi di apprendimento automatico. Ad esempio, il SPHINXsystem<ref>Automatic speech recognition: the development of the SPHINX system, Lee 1989</ref> impara le strategie di altoparlanti specifici per riconoscere i suoni primitivi (fonemi) e le parole del segnale vocale osservato. Metodi di apprendimento basati su reti neurali e su modelli di Markov nascosti sono efficaci per la personalizzazione automatica di vocabolari, caratteristiche del microfono, rumore di fondo, ecc.

=== Guida automatica di veicoli ===
Metodi di apprendimento automatico sono stati usati per addestrare i veicoli controllati da computer. Ad esempio, il sistema ALVINN<ref>D. Pomerleau. Alvinn: An autonomous land vehicle
in a neural network. In Advances in Neural Information
Processing Systems 1, 1989.</ref> ha usato le sue strategie per imparare a guidare senza assistenza a 70 miglia all'ora per 90 miglia su strade pubbliche, tra le altre auto. Con tecniche simili sono possibili applicazioni in molti problemi di controllo basato su sensori.

=== Classificazione di nuove strutture astronomiche ===
Metodi di apprendimento automatico sono stati applicati ad una varietà di banche dati di grandi dimensioni per imparare regolarità generali implicite nei dati. Ad esempio, algoritmi di apprendimento basati su alberi di decisione sono stati usati dalla NASA per classificare oggetti celesti a partire dal secondo Palomar Observatory Sky Survey<ref>Automated Star/Galaxy Classification for Digitized Poss-II, Weir, N., Fayyad, U. M., & Djorgovski, S, Astronomical Journal v.109, p.2401</ref>. Questo sistema è oggi utilizzato per classificare automaticamente tutti gli oggetti nel Sky Survey, che si compone di tre terabyte di dati immagine.

=== Giocatore di backgammon di classe mondiale ===
I programmi per computer di maggior successo per il gioco del backgammon sono basati su algoritmi di apprendimento. Ad esempio, il miglior programma di computer al mondo per backgammon, TD-Gammon<ref>{{Cita web|autore=G. Tesauro|titolo=Temporal difference learning and TD-Gammon." Comm. of the ACM 38:3, 58-68 (1995)|url= https://www.research.ibm.com/massive/tdl.html |urlarchivio=https://web.archive.org/web/20130111060444/http://www.research.ibm.com/massive/tdl.html}}</ref>, ha sviluppato la sua strategia giocando oltre un milione di partite di prova contro se stesso. Tecniche simili hanno applicazioni in molti problemi pratici in cui gli spazi di ricerca molto rilevanti devono essere esaminati in modo efficiente.

=== Apprendimento automatico in finanza ===

Le istituzioni finanziarie hanno utilizzato a lungo sistemi di reti neurali artificiali per rilevare addebiti o reclami al di fuori della norma, segnalandoli per le indagini umane.<ref>{{Cita libro|titolo=Machine Learning in Finance: From Theory to Practice|url=https://python.engineering/machine-learning-in-finance-from-theory-to-practice/|autore=Matthew F. Dixon, Igor Halperin, Paul Bilokon|editore=Springer|data=2021|ISBN=9783030410674|7=|accesso=2 settembre 2021|urlarchivio=https://web.archive.org/web/20210902093630/https://python.engineering/machine-learning-in-finance-from-theory-to-practice/|urlmorto=sì}}</ref> L'uso dell'intelligenza artificiale nel settore bancario può essere fatto risalire al 1987,<ref>{{Cita web|cognome=Christy|nome=Charles A.|data=17 gennaio 1990|titolo=Impact of Artificial Intelligence on Banking|url=https://www.latimes.com/archives/la-xpm-1990-01-17-fi-233-story.html|accesso=10 settembre 2019|sito=[[Los Angeles Times]]}}</ref> quando la Security Pacific National Bank negli Stati Uniti ha istituito una task force per la prevenzione delle frodi per contrastare l'uso non autorizzato delle carte di debito. Programmi come Kasisto e Moneystream utilizzano l'intelligenza artificiale nei servizi finanziari.

=== Progettazione in ingegneria e architettura ===
Diversi studi di architettura, urbanistica e ingegneria adottano metodi di apprendimento automatico per l'ottimizzazione topologica delle strutture, metodi che ricalcano processi genetici sono disponibili all'interno di alcuni programmi di modellazione tridimensionale<ref>{{Cita pubblicazione|autore=David Rutten|titolo=Galapagos: On the Logic and Limitations of Generic Solvers|rivista=Architectural Design|volume=83|numero=2|url=https://onlinelibrary.wiley.com/doi/abs/10.1002/ad.1568?casa_token=muMfVSdbrKEAAAAA:hVGdvenQ69G0VHSHGKW3yA9KMH0inpD8SCJzo_BS4EjWSeJR9iH9qyKB7Wy9APl-lLjPUqwWLR5fAw}}</ref>, e vengono già utilizzati per ottimizzazione degli spazi sulla base di flussi o delle performance ambientali per gli edifici<ref>{{Cita web|url=https://www.joelsimon.net/evo_floorplans.html|titolo=Evolving Floorplans}}</ref>. Un numero ancora limitato di studi professionali e ricercatori ha iniziato ad adoperare le [[Rete generativa avversaria|reti generative avversarie]] per organizzare la distribuzione spaziale<ref>{{Cita pubblicazione|autore=Giuseppe Gallo|autore2=Fulvio Wirz|autore3=Giovanni Francesco Tuzzolino|titolo=The role of Artificial Intelligence in architectural design: conversation with designers and researchers|rivista=Proceedings of S.Arch 2020, the 7th international conference on architecture and built environment - Tokyo|url=https://www.researchgate.net/publication/348447960_The_role_of_Artificial_Intelligence_in_architectural_design_conversation_with_designers_and_researchers}}</ref> degli ambienti e la [[Fluidodinamica computazionale]]<ref>{{Cita libro|autore=Giuseppe Gallo|titolo=Architettura e second digital turn, l'evoluzione degli strumenti informatici e il progetto|url=https://www.researchgate.net/publication/355076916_Architecture_and_second_digital_turn_the_evolution_of_digital_tools_within_the_design_process_-_PhD_thesis|annooriginale=2021|editore=Tesi dottorale, Università degli studi di Palermo}}</ref>.

== Etica ==
{{S sezione|informatica}}
L'apprendimento automatico solleva un numero di problematiche etiche. I sistemi addestrati con insiemi di dati faziosi o pregiudizievoli possono esibire questi pregiudizi quando vengono interpellati: in questo modo possono essere digitalizzati pregiudizi culturali quali il razzismo istituzionale e il [[classismo]]<ref>{{Cita web|url=http://www.nickbostrom.com/ethics/artificial-intelligence.pdf|titolo=The Ethics of Artificial Intelligence|cognome=Bostrom|nome=Nick|data=2011|lingua=inglese|accesso=11 aprile 2016|urlarchivio=https://web.archive.org/web/20160304015020/http://www.nickbostrom.com/ethics/artificial-intelligence.pdf|urlmorto=sì}}</ref>. Di conseguenza la raccolta responsabile dei dati può diventare un aspetto critico dell'apprendimento automatico.

In ragione dell'innata ambiguità dei linguaggi naturali, le macchine addestrate su corpi linguistici necessariamente apprenderanno questa ambiguità<ref>[https://freedom-to-tinker.com/2016/08/24/language-necessarily-contains-human-biases-and-so-will-machines-trained-on-language-corpora/]</ref>.

== Note ==
<references/>

== Bibliografia ==
{{W|informatica|febbraio 2023}}
* Diego Gosmar (2020), ''Machine Learning. Il sesto chakra dell'intelligenza artificiale'', ISBN 979-8644551132. {{cita testo|url=https://www.amazon.it/dp/B088N5G5CY/|titolo=Amazon libri}}.
*Andrea De Mauro, ''Big Data Analytics. Analizzare e interpretare dati con il machine learning'', ISBN 978-8850334780, Apogeo, 2019.
* {{Cita libro|autore=Gareth James|autore2=Daniela Witten|autore3=Trevor Hastie|autore4=Robert Tibshirani|anno=2013|titolo=An Introduction to Statistical Learning|editore=Springer|ISBN=978-1-4614-7137-0 |doi=10.1007/978-1-4614-7138-7|url=http://www-bcf.usc.edu/~gareth/ISL/ISLR%20Sixth%20Printing.pdf}}
* Sanjeev Kulkarni, Gilbert Harman (2011): ''An Elementary Introduction to Statistical Learning Theory'', J.Wiley, ISBN 978-1-118-02347-1
* Trevor Hastie, Robert Tibshirani, Jerome Friedman (2009): ''The Elements of Statistical Learning: Data Mining, Inference, and Prediction'', Springer, 2nd ed. Accessibile in https://web.archive.org/web/20150126123924/http://statweb.stanford.edu/~tibs/ElemStatLearn/
* {{Cita libro|autore=Christopher M. Bishop|anno=2006|titolo=Pattern Recognition and Machine Learning|url=https://archive.org/details/patternrecogniti0000bish|editore= Springer|ISBN=0-387-31073-8|cid=Bishop, 2006}}
* Witten, I. & Frank, E. (2005), ''Data Mining: Practical Machine Learning Tools and Techniques'', Morgan Kaufmann.
* Alpaydin, E. (2020), ''Introduction to Machine Learning'', 4e. MIT Press. ISBN 9780262043793
*Murphy, P (2012), Machine Learning. MIT Press
* {{Cita libro|autore=Vojislav Kecman|anno=2001|titolo=Learning and Soft Computing: Support Vector Machines, Neural Networks and Fuzzy Logic Models|url=https://archive.org/details/learningsoftcomp0000kecm|editore=MIT Press|ISBN=978-0-262-52790-3|cid=Kecman, 2001|}}
* Vladimir Vapnik (1998): ''Statistical Learning Theory'', Wiley-Interscience, ISBN 0-471-03003-1.
* Mitchell, T. (1997), ''Machine Learning'', McGraw Hill. ISBN 0-07-042807-7
* Langley, P. (1996), ''Elements of Machine Learning'', Morgan Kaufmann.
*Domingos, P. (2015). ''The master algorithm: How the quest for the ultimate learning machine will remake our world''. Basic Books.

== Voci correlate ==
* [[Overfitting]]
* [[Process mining]]
* [[Data mining]]
* [[Apprendimento profondo]]
* [[Apprendimento supervisionato]]
* [[Apprendimento non supervisionato]]
* [[Apprendimento semi-supervisionato]]
* [[Apprendimento auto-supervisionato]]
* [[Apprendimento per rinforzo]]
* [[Vladimir Vapnik]], [[Alexey Cervonenkis]]
* [[20q]]
* [[Teorema del brutto anatroccolo]]
* [[Rete neurale artificiale|Rete neurale]]
* [[Rete neurale a base radiale]]
* [[Receiver operating characteristic]]
*[[Incorporamento del grafo di conoscenza]]

== Altri progetti ==
{{interprogetto|preposizione=sull'}}

== Collegamenti esterni ==
* {{Collegamenti esterni}}
* {{FOLDOC|machine learning|machine learning}}
* {{Cita web | url = https://www.apprendimentoautomatico.it/identificazione-di-oggetti-in-immagini-con-convolutional-neural-network-python-e-mxnet/ | titolo = Identificazione di oggetti in immagini con Convolutional Neural Network, Python e MXNet | data = settembre 2016 | accesso = 14 ottobre 2022 | urlarchivio = https://archive.is/20161211222848/https://www.apprendimentoautomatico.it/identificazione-di-oggetti-in-immagini-con-convolutional-neural-network-python-e-mxnet/}}

{{Apprendimento automatico}}
{{Intelligenza artificiale}}
{{Controllo di autorità}}
{{portale|informatica|statistica}}

[[Categoria:Visione artificiale]]
[[Categoria:Elaborazione digitale delle immagini]]
[[Categoria:Teoria dell'informazione]]
[[Categoria:Intelligenza artificiale]]
[[Categoria:Analisi dei dati]]
[[Categoria:Apprendimento automatico| ]]