Tema

I concettimachine-learningNel grafo

Teorema di convergenza del percettrone

Se esiste una retta che separa gli esempi, la regola di apprendimento la trova in un numero finito di correzioni (Rosenblatt; dimostrazione classica di Novikoff, 1962)

Si lega a

garantisce la regola di apprendimento del percettrone; vale solo sotto separabilità lineare

Da qui ci si arriva

  1. Regola di apprendimento del percettrone

    A ogni errore: nuovo peso = peso + tasso di apprendimento × errore × ingresso. I pesi si spostano solo dove l'ingresso era acceso, e la soglia si aggiusta in direzione opposta

  2. Separabilità lineare

    La condizione in cui una retta (un piano, in più dimensioni) lascia tutti gli esempi di una classe da una parte e tutti gli altri dall'altra: l'unico mondo in cui un percettrone può riuscire, perché un percettrone è una retta che si sposta

  3. Teorema di approssimazione universale

    Una rete con un solo strato nascosto abbastanza largo può approssimare qualunque funzione continua (Cybenko, 1989). Garantisce che la rete esiste, non che l'addestramento la trova

Dove se ne parla

  1. Il percettrone: la prima macchina che impara le proprie regole