Mit virtueller Realität Musik über Ländergrenzen hinweg genießen

Keyvisual image main
Timo Frey arbeitete in Echtzeit vom HLRS aus mit Dr. Jeremy Ham in Neuseeland während des Ars Electronica Garden Aotearoa zusammen.

Visualisierungsexperten des HLRS verbinden Musik und Architektur in einer immersiven, kollaborativen virtuellen Umgebung.

Während der COVID-19-Pandemie hat das Visualisierungsteam des HLRS an Lösungen mit Virtual Reality (VR)- und Augmented Reality (AR)-Technologien gearbeitet, die Menschen im digitalen Raum näher zusammenbringen.

Als Partner im KoLab-BW-Projekt haben Mitarbeitende des HLRS mit sechs weiteren Organisationen gemeinsam eine Software entwickelt, mit deren Hilfe Forschende sich – in Verbindung mit handelsüblichen VR-Headsets – im virtuellen Raum treffen können, obwohl sie sich in verschiedenen Teilen einer Stadt, eines Landes oder der ganzen Welt befinden.

Vor Kurzem hat das Team dieses Konzept auf eine rasante, dynamische Arena der Zusammenarbeit weiterentwickelt — um gemeinsam Musik zu machen. In den vergangenen Monaten hat Dr. Uwe Wössner, Leiter der Visualisierungsabteilung des HLRS, zusammen mit Dr. Jeremy J. Ham, einem Musik- und Raumkonzept-Designer, Architekten und unabhängigen Forscher mit Sitz in Australien, ein „Networked Musicospatial Virtual Environment“ (NMSVE) entwickelt.

„Ich interessiere mich für das, was ich als ‚musico-spatial crossover‘ bezeichne, das heißt die Verbindung von Musik und Raumgestaltung“, so Ham. „Ich konzentriere mich auch auf die Entwicklung der räumlichen 3D-Notation von Musik, die ein spannendes Forschungsgebiet ist. Vor allem aber bin ich als Musiker an der Improvisation als Methode interessiert. In dieser Hinsicht war das, was das Visualisierungsteam entworfen hat und woran wir gearbeitet haben, eine Möglichkeit, die Performance zu erfassen und aufzuzeigen, wie sich Musik unterschiedlich räumlich darstellen lässt.“

Gemeinsam haben Ham und Wössner einen Ansatz entwickelt, der die vom HLRS entwickelte Softwareumgebung COVISE nutzt, um Visualisierungen von improvisierten Musikkollaborationen in Echtzeit zu notieren und weltweit zu verbreiten.

Dr. Jeremy Ham spielt elektronisches Schlagzeug als Teil des Ars Electronica Garden Aotearoa.

Dr. Jeremy Ham tritt im Rahmen des Ars Electronica Garden Aotearoa auf.

Ham und Wössner stellten ihr NMSVE-Konzept kürzlich während des ARS Electronica Garden Aotearoa Festivals vor. Die neuseeländische  Ausgabe von ARS Electronica, einem international renommierten Festival für digitale Kunst fand von 16-22 Juni in Wellington, Neuseeland, statt. Die Forscher nannten das Projekt „Synaespatia“, eine Anspielung auf „Synästhesie“, ein seltenes Phänomen, bei dem Menschen einen Sinn durch einen anderen wahrnehmen — man denke an das „Schmecken“ von Musik, das „Hören“ von Farben oder Ähnliches. „Synästhesie ist für mich die Wahrnehmung von Musik und Klang im räumlichen Bereich“, so Ham.

Für die Ausstellung präsentierte Ham gemeinsam mit dem Stuttgarter Musiker Timo Frey und Wössner das NMSVE in Live-Performances, die parallel in Wellington und Stuttgart stattfanden. Mithilfe von COVISE konnten die Musiker einander aus 18.000 Kilometern Entfernung hören. Darüber hinaus konnten sie sich auch mit einem VR-Headset in einem Raum aus dynamischen und eindeutigen Musiknotationen bewegen, die um sie herum schwebten und darstellten, was in einem bestimmten Moment auf Keyboards und elektronischen Schlagzeugen gespielt wurde.

„Im KoLab-BW-Projekt unterstützen wir die Zusammenarbeit in virtuellen Umgebungen mit unterschiedlicher VR-Hardware wie CAVEs, Powerwalls, Head-Mounted Displays und Augmented Reality“, so Wössner. „Während der ARS Electronica habe ich die CAVE eingesetzt und Jeremy hat ein Head-Mounted Display und eine große LED-Wand benutzt. Die Veranstaltung hat uns gezeigt, dass diese Technologien erfolgreich in ein Live-Musiksetting integriert werden können, auch wenn die Musiker:innen weit voneinander entfernt sind.“

Ham hofft, dass sich mithilfe von Innovationen wie diesen fesselnden, immersiven Umgebungen die Musikausbildung verbessern lässt. Darüber hinaus sieht er in NMSVEs die Chance, Musik denjenigen näherzubringen, die hörgeschädigt sind oder aus anderen Gründen nur begrenzt Zugang zur Musik haben.

-Eric Gedenk