Ayya Khema est née à Berlin en 1923 de parents juifs. En 1938, elle quitta l'Allemagne pour Glasgow, en Ecosse. Ses parents partirent pour la Chine et Ayya Khema les rejoignit deux ans plus tard à Shanghai. Au début de la guerre, cependant, la famille fut mise dans un camp de prisonniers de guerre japonais, et c'est là que son père mourut.
Quatre ans après la libération du camp par les Américains, Ayya Khema émigra aux Etat-Unis. Entre 1960 et 1964 elle voyagea avec son mari et son fils à travers l'Asie, y compris dans les pays de l'Himalaya, et c'est à cette époque qu'elle apprit la méditation. Dix ans plus tard, elle commença à enseigner elle-même la méditation à travers l'Europe, l'Amérique et l'Australie. Ses expériences l'amenèrent, en 1979, au Shri Lanka où elle reçut l'ordination de nonne bouddhiste, sous le nom de Khema, qui signifie sûreté et sécurité (Ayya voulant dire Vénérable).
En 1978, elle établit Wat Buddha Dhamma, un monastère de la forêt selon la tradition Theravada, près de Sydney, en Australie. A Colombo, elle fonda la Centre International des Femmes bouddhistes comme centre d'entraînement pour les nonnes du Shri Lanka, et l'Ile de nonnes de Parappuduwa pour les femmes désirant suivre une pratique intensive et/ou recevoir l'ordination de religieuse. Elle est la directrice spirituelle d'un centre de méditation dans le Sud de l'Allemagne, Buddha-Haus, établi sous ses auspices en 1989.
En 1987, elle organisa la première conférence internationale des nonnes bouddhistes dans l'histoire du bouddhisme, ce qui entraîna la création de Sakyadhita, une organisation mondiale des femmes bouddhistes. Sa Sainteté le Dalaï Lama prononça le discours d'ouverture de la conférence. En mai 1987, comme conférencière invitée, elle fut la première bouddhiste à avoir jamais pris la parole aux Nations Unies à New York.