Kurze Rückmeldung:

Ich weiß nicht woran es lag - Hämmerchen, Nagel oder mein Unvermögen - , aber den Stahlnagel habe ich nicht in die Wand bekommen. Stattdessen zwei Nägel krummgeschlagen.

Deshalb habe ich zu einem 5mm Spreizdübel und dem 3mm Schraubhaken gegriffen und das Loch gebohrt.

Ich habe nach den hilfreichen Kommentaren nochmal nachgeforscht.

Ergebnis:

1) Ein Stahlnagel sollte für Bilder bis 10kg reichen (wenn man ihn reinbekommt, im 45 Grad Winkel einschlagen).

https://derselbermacher.de/handwerk/bild/bild-aufhaengen.html

2) Welche Dübelgrößen und Schrauben man nehmen muss, hängt von der Beschaffenheit der Wand und der Traglast ab, die durch das Gewicht des Bildes zustande kommt.

Weil bei den Dübelherstellern nur noch die Zugkraft in Newton N oder kN und nicht mehr die Kilogramm stehen, muß man das selber umrechnen. Das geht wie folgt: Zugkraftangabe des Herstellers durch 9,81 teilen ergibt das maximale Gewicht des Bildes. Bei kN mit 1000 multiplizieren. N/9,81=kg max.

Welche Lasten ein Dübel tragen kann und wie lange die Schraube sein muss, steht z.B. hier: https://www.talu.de/groesse-duebel/ in der Tabelle. Diese Tabelle habe ich genommen und die Traglast in kg umgerechnet. Dabei habe ich gesehen, dass der 5er Dübel reicht, weil er eine Tragkraft von 330N hat, was ca. 33kg entspricht, die das Bild wiegen dürfte. Die Tabelle "Maßtabelle" habe ich als Bild angehängt.

Das steht auch bei Dübelherstellern wie Fischer, allerdings etwas konservativer (die sind ja auch haftbar, wenn was runterfällt). Dort heißt das, der "Fischer Dübelfinder" und das kann man sich auch als App auf das Handy laden. https://www.fischer.de/de-de/service/duebelfinder-fuer-heimwerker

Dort sind leichte Bilder als Bilder bis 6kg klassifiziert und man bekommt einen 6er Dübel vorgeschlagen.

Fischer hat auch eine Übersichtabelle aller Dübel: https://www.fischer.de/de-de/produkte/standardbefestigungen/kunststoffduebel/spreizduebel-s

Dort gibt es auch eine Lastentabelle mit den möglichen Traglasten.

https://www.fischer.de/de-de/produkte/standardbefestigungen/kunststoffduebel/spreizduebel-s

Ein 5er Dübel hat im Kalksandstein eine Traglast von 0,3kN =300N. Das ergibt 300/9,81=ca.30kg. Das ist mehr als ausreichend für ein Bild mit 6kg, selbst wenn es noch Drehmomente gibt.

Fazit:

Die Antworten der Experten in der Community waren super und auch superschnell.

Wenn ich einen Nagel in die Wand einschlagen könnte, ohne dass der verbiegt, hätte ich das sicher gemacht.

Weil ich dazu nicht in der Lage bin, habe ich die Bohrmaschine die Arbeit machen lassen. Das hätte auch professionell ausgesehen, wenn meine Frau vorher nicht gesehen hätte, wie ich die Nägel vermurkst habe. So hat das leider keinen Eindruck mehr gemacht. -:(