Was, wenn AfD keine absolute Mehrheit erlangt, niemand mit AfD koalieren will und durch die kleineren Parteien keine Koalition zustande kommt?

Nichts. Dann bleibt sie in der Opposition.
Je höher der Anteil der AfD-Wähler ist, die dadurch politisch nicht repräsentiert werden, desto höher wird der Unmut in der Bevölkerung und desto weniger werden die Regierungsparteien als solche aktzeptiert werden.
Es könnte sein, dass genau deswegen dann tatsächlich irgendwann einmal die absolute Mehrheit erreicht werden wird.
Dazu müsste nichtmal unbedingt die AfD mehr gewählt werden, es reicht ja, wenn z.B. nur mehr kleinere Parteien gewählt werden, die dann alle an der 5% - Hürde scheitern.

Es gibt nur 3 Möglichkeiten:

entweder raufen sich die demokratischen Parteien zusammen und bilden eine Koalition. (Die stünde dann aber unter einem noch unglücklicheren Stern als die viel gescholtene Ampel). Und das geht natürlich nur nachdem die stärkste Partei zuvor mit einer Regierungsbildung gescheitert ist.

oder eine Partei ignoriert die Brandmauer. Dazu braucht es aber eine Kamikaze-Mentalität.

Am Schluss steht die erbärmliche Zwangslage eine Neuwahl sooft anzusetzen bis das Wahlergebnis eine Regierungsbildung ermöglicht (italienische Verhältnisse)

Was, wenn AfD keine absolute Mehrheit erlangt, niemand mit AfD koalieren will und durch die kleineren Parteien keine Koalition zustande kommt?

Bundestagswahl

Dann gibt es entweder eine Minderheitsregierung, die sich für ihre Vorhaben wechselnde Mehrheiten suchen muss, oder ggf. Neuwahlen.

Dann kommt der Bundespräsident auf ein paar ParteiChefs zu und bittet darum, dass sie sich zu einer Koalition zusammenraufen (passierte so 2019).

Ansonsten reicht im 3. Wahlgang auch eine einfache Mehrheit, die dann eine MinderheitsRegierung bildet. Diese scheitert dann aber in D tendenziell, wenn sie für ihren HaushaltsEntwurf keine Mehrheit findet.

Danach kommt es auf Landesebene tendeziell zu Neuwahlen. Allerdings sind die im Bund nicht soo leicht auszulösen. Man muss dafür immer etwas tricksen.

Dann haben Sie halt Pech und kommen vorerst nicht weiter. Es kann niemand dazu gezwungen werden, mit jemand anderem zusammen zu arbeiten und eine Koalition zu bilden.

Aus genau diesem Grund ist jede Partei, somit auch die AfD, dazu angehalten in ihrem eigenen Interesse Überzeugungsarbeit gegenüber anderen zu leisten!