Come non annegare in un mare di corsi sulle reti neurali e trovare lezioni davvero utili
Una situazione familiare: decidi di aggiornare le tue conoscenze sul Deep Learning, apri YouTube e trovi migliaia di video con titoli come "Reti Neurali in 5 Minuti". Clicchi su uno, poi su un altro, poi su un terzo, ma invece di una comprensione profonda ottieni un caos di informazioni frammentate. Alla fine, il tempo è passato, e l'intuizione di cui parlava Geoffrey Hinton non appare mai.
Mi sono imbattuto in un repository chiamato Deep Learning Drizzle, ed è probabilmente la collezione più rilevante di contenuti educativi sull'AI che abbia visto negli ultimi anni. L'autore del progetto, kmario23, ha fatto un lavoro straordinario—non ha semplicemente buttato insieme dei link ma ha organizzato i migliori corsi universitari e lezioni dai migliori laboratori di tutto il mondo.
Cosa c'è dentro questo tesoro
In breve, è un enorme catalogo di lezioni video gratuite, slide e codice. Non ci sono corsi da "guru dell'informazione" qui. Solo approcci accademici seri da Stanford, MIT, Oxford, CMU e altri giganti.
Il progetto è suddiviso in sezioni logiche, e questo ti salva dalla paralisi da scelta. Puoi iniziare dalle basi dell'algebra lineare e procedere fino alle architetture più recenti delle reti neurali su grafi.
Navigare le sezioni
Il repository ha più di dieci categorie. Ecco quelle che ti consiglierei di focalizzare per prime:
- Deep Learning (Deep Neural Networks). Questa è la fondazione. Qui sono raccolte oltre 80 corsi. C'è l'iconico CS231n di Andrej Karpathy (Stanford) e le lezioni dello stesso Yann LeCun dalla NYU. Interessante che l'autore abbia aggiunto corsi di anni diversi—puoi tracciare come sono cambiati gli approcci dal 2012 a oggi.
- Fondamenti di Machine Learning. Se fai fatica con le matrici o hai dimenticato cosa sia un gradiente, questo è per te. Qui troverai le lezioni di algebra lineare di Gilbert Strang e le eccellenti visualizzazioni di 3Blue1Brown (Grant Sanderson).
- Reinforcement Learning. L'apprendimento per rinforzo è un argomento impegnativo, ma c'è il corso di David Silver di DeepMind. È letteralmente lo standard aureo nell'industria.
- Natural Language Processing. Tutto ciò che riguarda l'NLP: dai metodi classici ai transformer e ai moderni modelli linguistici. Sono inclusi i corsi di Stanford di Christopher Manning.
- Geometric Deep Learning. In questo momento è una delle direzioni più calde (reti neurali su grafi). La lista include lezioni di Michael Bronstein, che ha essenzialmente fondato questa disciplina.
Perché è utile per uno sviluppatore praticante
Il problema principale dell'autoformazione è la mancanza di un sistema. Potresti sapere come importare ResNet da una libreria, ma non capire perché funziona nel modo in cui funziona. Deep Learning Drizzle ti dà accesso alle fonti primarie.
Per esempio, se hai bisogno di capire l'ottimizzazione dei modelli, apri la sezione rilevante e trovi il corso di ottimizzazione convessa di Stephen Boyd. Non è solo "aggiustare i parametri"—è una base matematica che ti permetterà di affrontare l'addestramento dei modelli in modo consapevole, invece di andare a tentoni.
A proposito, c'è una sezione Medical Imaging nella collezione. È un ottimo esempio di come la conoscenza generale del DL viene applicata in un'area ristretta ma criticamente importante. Se stai pensando di cambiare dominio o cerchi idee per progetti personali, dai un'occhiata alle lezioni in questa sezione.
Come usare questa lista
Non cercare di afferrare l'inafferrabile. La lista è enorme, e se inizi a guardare tutto indiscriminatamente, ti brucerai presto. Ti consiglierei questo approccio:
- Scegli un argomento specifico che ti serve per il lavoro adesso (per esempio, NLP o CV).
- Trova un corso dell'anno più recente (2021-2022) da un'università nota.
- Assicurati di scaricare le slide e cercare i link ai repository di codice, che sono spesso elencati nelle tabelle accanto ai video.
L'autore ha anche incluso una sezione sulle summer school. Queste sono conoscenza concentrata, di solito erogata in una o due settimane di formazione intensiva. Le lezioni sono tenute da "leggende" dell'industria, ed è un ottimo modo per acquisire rapidamente competenze su un argomento specifico.
Vale la pena il tempo
Il progetto ha quasi 13.000 stelle su GitHub, e sono meritate. Non è solo una lista di link—è una guida vivente. Certo, alcuni link alle pagine delle università potrebbero alla fine "diventare obsoleti", ma i nomi dei corsi e dei professori rimangono eccellenti punti di riferimento per le ricerche sul web.
Per chi è? Prima di tutto per chi vuole capire i "meccanismi interni" degli algoritmi, non solo chiamare .fit() e .predict(). Se ti stai preparando per un colloquio in una grande azienda tech per una posizione di ML engineer, seguire un paio di corsi da questa lista ti darà un enorme vantaggio rispetto a chi ha imparato da tutorial brevi.
Quindi, se stavi cercando un segnale per finalmente capire la matematica delle reti neurali o studiare i metodi bayesiani—eccolo. Apri semplicemente Deep Learning Drizzle e inizia a imparare dai migliori.
Progetti correlati