Also bei einfachen Funktionalen habe ich da auch kein Problem 
mit, z.b. F: f -> int(f^2,x,,), dann ist pdiff(F,f(x))=2f
wobei f an den Integralgrenzen verschwindetund f eine reelle Funktion ist.

Aber hier komme ich nicht weiter:
F : f -> int(abs(grad(f))^2,x,,)
Wie sieht hier pdiff(F,f(x)) aus?

Angeblich soll man ja alleine mit der Formel
pdiff(f(x),f(y))=\d(x-y) (''Deltafunktion'')
alle Ableitungen bestimmen können, aber wie soll
das hier funktionieren mit dem Gradienten und dem Betrag
(wohl die 2-Norm)?

\
Dein ''einfaches'' Beispiel stimmt mE nicht. Die Funktionalableitung von f \mapsto int(f^2) an der Stelle f ist der lineare Operator h \mapsto 2*int(fh). Oder wie habt ihr die Funktionalableitung definiert? Das Ding mit der \d-Funktion sagt mir überhaupt nichts, dürfte wohl auch Physiker-Notation sein.

F[\phi] -> F_N(\phi_1 ,...,\phi_N)
schliesslich lässt man N-> \inf laufen um das Ergebniss
zu erhalten.

Dann folgt pdiff(f(x),f(y))=\d(x-y) aus der Tatasache das pdiff(x_i,x_j)=\d_(i,j)

\
Für die Ableitung \d\ F(f) an der Stelle f muss per Definition für alle (Testfunktionen) h gelten:
\d\ F(f) * h = d/dt F(f+t*h) \|_(t=0)
Für F : f -> int(abs(grad(f))^2,,,) erhält man \(wenn abs(a) die euklidische Norm ist\):
\d\ F(f) * h = d/dt F(f+t*h) \|_(t=0) = 2*int(braket(\Nabla\ f, \Nabla\ h),,,),
wobei braket(.,.) das Standardskalarprodukt bezeichnet.
Es ist also \d\ F(f) der Operator h \mapsto 2*int(braket(\Nabla\ f, \Nabla\ h),,,).