Das wichtigste vorab, Batterien nie über den Hausmüll entsorgen! Alle Supermärkte und Discounter bieten die kostenlose Rücknahme von alten Batterien an, einfach mal dort umschauen oder fragen; in Deutschland sind alle Geschäfte, die Batterien verkaufen laut Batteriegesetz zur Rücknahme der Altbatterien verpflichtet.
Zur eigentlichen Frage: Je nach Batterietyp können verschiedene Stoffe austreten. Bei den gebräuchlichen Alkaline-Batterien handelt es sich bei dem weißen, kristallinen Feststoff um Kaliumcarbonat, dies ist nicht hochgiftig, kann aber Schleimhäute und Augen reizen. Es entsteht, wenn Kaliumhydroxid aus der Batterie austritt und an der Luft mit Kohlenstoff (CO2) reagiert. Kaliumcarbonat ist wasserlöslich und gemäß der EU-Gefahrenstoffkennzeichnung "reizend". Es wird industriell beispielsweise in der Seifen- und Farbenherstellung verwendet. Sollte etwas davon auf die Haut oder auf Textilien geraten, einfach mit reichlich Wasser ab- oder auswaschen.
Bei billigen Zink-Kohle-Batterien kann Ammoniumchlorid austreten. Dieses ist Gesundheitschädlich. Wenn es als Lösung (flüssig) austritt, so kann es das Gerät, in dem die Batterie eingesetzt war, stark beschädigen oder zerstören, da es Leiterbahnen und Lötstellen zerfrisst. In kristalliner Form sollte es zunächst trocken abgerieben oder abgebürstet werden - dabei vorsichtog und den Staub nicht einatmen - und dann nur die Reste mit Wasser abspülen, da es als Lösung sauer reagiert.
Bei Akkumulatoren werden mitunter wesentlich giftigere Stoffe verwendet, daher sind Akkus meistens deutlich robuster konstruert, so dass diese idR. nur unter extremen Bedingungen auslaufen. Dann ist allerdings große Vorsicht geboten, da hier ätzende Stoffe wie Kalilauge austreten können.
Grundsätzlich sollten Batterien und Akkumulatoren in allen Geräten regelmäßig kontrolliert werden. Bilden sich Ablagerungen, so sind die Zellen kaputt und müssen umgehend ausgetauscht werden. Alkaline-Batterien sind dabei am unbedenklichsten, da austretendes Kaliumhydroxid an der Luft schnell zu Kaliumcarbonat gewandelt wird und an den Batteriepolen verbleibt (Schutz der Geräte). Wird ein Gerät längere oder unbestimmte Zeit nicht vewendet so sind alle Batterien zu entfernen! Akkus sollten vor der Lagerung geladen werden und zwar zu 40% bei NiCd / zu 55 bis 70% bei Li-Ion Akkus, Ladestand wegen Selbstentladung regelmäßig kontrollieren und ggf. nachladen. Hierzu auch die Hinweise der Hersteller beachten.
Ich weiß, das die Frage schon fast zwei Jahre alte ist, aber bisher wurde sie nur in höchst leienhafter Weise beantwortet.
Quellen: Wikipedia - "Alkali-Mangan-Zelle", "Zink-Kohle-Zelle", "Nickel-Metallhydrid-Akkumulator", "Lithium-Ionen-Akkumulator"