L'incremento della funzione f in un intorno del punto relativo ad un incremento dell'argomento, cioè , descrive la variazione della funzione quando si tenga fisso il punto e si faccia variare l'argomento della funzione in un suo intorno. Un problema affatto diverso si pone se si vuole incrementare di un valore la posizione del punto spostando il punto fisso in , per poi far variare l'argomento della funzione in un intorno di questo punto, in modo tale che sia . Questo comporta una stima dell'incremento , la cui parte lineare in è per definizione il differenziale della funzione nel punto :
Inoltre il differenziale calcolato in un punto e applicato ad un certo incremento è pari al prodotto della derivata calcolata in quel punto per l'incremento, per cui:
Ora, per definizione la parte lineare dello sviluppo di una funzione (o di un funzionale) è il differenziale della funzione (o del funzionale), e questo vale anche per il differenziale e la derivata, il cui sviluppo avrà una parte lineare espressa, rispettivamente, dal differenziale del differenziale e da quello della derivata:
D'altra parte Df è una funzione, e per definizione il differenziale di una funzione applicato ad un certo incremento è uguale alla derivata della funzione moltiplicata per l'incremento. Lo sviluppo della derivata può dunque essere riscritto così:
In queste equazioni compaiono il differenziale del differenziale e la derivata della derivata, i quali vengono detti, rispettivamente, differenziale secondo e derivata seconda, e si scrivono anche così:
Con queste notazioni si ha:
È importante osservare che mentre è una funzione da applicare all'incremento ottenendo un valore, è invece un funzionale che ad ogni incremento fissato associa una funzione da applicare all'incremento . Ma questo funzionale, che deve essere applicato all'incremento per ottenere una funzione lineare da applicare all'incremento , può anche essere considerato come l'applicazione parziale di un funzionale bilineare nei due argomenti e , per cui si può ridefinire il differenziale secondo nel modo seguente:
Relazione con la parte quadratica dello sviluppo della funzione
Il differenziale tout court, che si può anche definire differenziale primo, coincide per definizione con la parte lineare dell'incremento della funzione. A partire dal differenziale primo si può poi calcolare il differenziale secondo come pure quelli successivi, e allo stesso tempo i termini successivi dello sviluppo dell'incremento restano definiti dallo sviluppo asintotico. Dal momento che si dispone già di due definizioni indipendenti per il differenziale secondo e per il secondo termine dello sviluppo asintotico dell'incremento della funzione, in questo caso non si può imporre alcuna relazione per definizione, ma occorre andare a vedere se eventualmente tali relazioni vi siano. A questo scopo si può supporre che la funzione e quindi il suo incremento siano sviluppabili fino al termine quadratico sia in sia in .
Lo sviluppo fino al secondo ordine in della funzione f in un intorno di è:
Mentre una stima di può essere ottenuta solo sviluppando la funzione in un intorno di , una stima di può essere invece ottenuta in due modi diversi, a seconda di come si volgliono considerare i due incrementi e :
come una semplice somma di incrementi, per cui l'incremento della funzione può essere calcolato per un incremento a partire da :
come una composizione di incrementi, per cui viene considerato un incremento a partire dal punto :
Poiché i due sviluppi devono essere uguali, devono essere uguali anche i termini dello stesso ordine in e . Dal confronto di tutti i singoli termini si vede che:
per cui se si prende si ottiene la relazione fra il differenziale secondo è il termine quadratico dello sviluppo della :
Il differenziale di ordine k calcolato nel punto è una funzione k-lineare nei suoi argomenti e tale che come funzione lineare del suo k-mo argomento esso risulti pari alla parte lineare della variazione del differenziale (k-1)-mo rispetto ad una variazione del suo punto di applicazione:
La derivata k-ma nel punto è invece il coefficiente della parte lineare della variazione della derivata (k-1)-ma:
Relazione con i termini dello sviluppo in serie di potenze
Poiché il differenziale k-mo è una funzione k-lineare definita su in una relazione funzionale dovranno comparire dei funzionali k-lineari su . Dal momento che dx coincide con l'identità su , il prodotto tensoriale di dx con se stesso per k volte è una funzione k-lineare tale che:
Si ha quindi:
che può essere riscritta come equazione funzionale recuperando la notazione di Leibniz:
Poiché le due funzioni k-lineari e sono proporizionali fra di loro a meno della costante , tale costante può anche essere espressa formalmente come "rapporto" fra le due funzioni:
Dal punto di vista operatoriale si può definire l'operatore: