{"id":6,"date":"2020-05-13T14:02:00","date_gmt":"2020-05-13T12:02:00","guid":{"rendered":"https:\/\/www.semantha.de\/?p=6"},"modified":"2023-11-29T17:03:37","modified_gmt":"2023-11-29T16:03:37","slug":"co2rechner","status":"publish","type":"post","link":"https:\/\/www.semantha.de\/de\/co2rechner\/","title":{"rendered":"Der CO\u2082-Fu\u00dfabdruck einer K\u00fcnstlichen Intelligenz (KI)"},"content":{"rendered":"\n

TL;DR: Wie steht es eigentlich um die Umweltbilanz von semantha? K\u00fcnstliche Intelligenz (KI) wird oft als Klimaretter verkauft: mit ihrer Hilfe sollen L\u00f6sungen f\u00fcr Umweltprobleme – zum Beispiel im Verkehr – gefunden werden. Nur selten werden dabei die Umweltkosten von KI in diese \u00dcberlegungen einbezogen. In diesem Blogartikel zeigen wir, dass wirklich viel Energie f\u00fcr das Training aktueller NLP-Modelle aufgewendet werden muss und dass sich das trotz allem lohnt. Oder wusstest du, dass du mit einer KI im Bereich Dokumentverwaltung \u00fcber 150 Fl\u00fcge von Frankfurt nach New York an CO2<\/sub> sparen kannst? Von den eingesparten Arbeitskosten gar nicht zu sprechen. Mehr dazu jetzt….<\/span><\/p>\n\n\n\n\n\n\n\n

\u00d6kologisch dank IT?<\/strong><\/h2>\n\n\n\n

Ja, KI ist seit ein paar Jahren wieder in Mode – genauso, wie \u00fcber die Verkehrswende[1]<\/sup> zu diskutieren und Energieeffizienz anzupreisen: Die EU hat den European Green Deal[2]<\/sup> ins Leben gerufen und will Europas Weg in eine klimaneutrale Zukunft ebnen. Gro\u00dfe Beratungsh\u00e4user[3]<\/sup> beginnen damit, ihre Mandanten zu Themen der Klimaneutralit\u00e4t zu beraten, Versicherungsunternehmen stellen das Thema Nachhaltigkeit ins Rampenlicht[4]<\/sup>. Doch wie sieht es damit wirklich aus? Diese Frage stellen nicht nur wir uns, sondern auch die Politik[5]<\/sup>, Lehrst\u00fchle an Universit\u00e4ten[6]<\/sup>, die akademische Community[7]<\/sup> und es gibt sogar Podcasts[8]<\/sup> zum Thema.<\/p>\n\n\n\n

Im Fall von semantha steht – wie bei vielen KI-Systemen – auf der Ausgabenseite nat\u00fcrlich der Energiebedarf f\u00fcr Training und Produktivbetrieb. Betrachtet man den CO2-Fu\u00dfabdruck von KI-L\u00f6sungen, so muss man aber den Gesamtbedarf des Prozesses betrachten: und auf der Seite des \u201calten\u201d Prozesses steht im einfachsten Fall ein manueller Prozess, der von Mitarbeitern durchgef\u00fchrt werden muss.
Diese Mitarbeiter werden in ihrer Arbeit auch heute schon von Computern unterst\u00fctzt, doch bilden diese meist nur den manuellen Prozess digital ab – quasi auf der untersten Stufe der Digitalisierung. Hinzu kommt, dass wir semantha so gebaut haben, dass wir gerade nicht f\u00fcr jeden neuen Kunden oder Anwendungsfall ein neues Training von Grund auf durchf\u00fchren m\u00fcssen. Im einfachsten Fall k\u00f6nnen wir semantha genau so einsetzen, wie wir sie im Labor trainiert haben – es entstehen also durch den Einsatz beim Kunden keine weiteren Trainingsaufw\u00e4nde. Wenn wir semantha mit dem Fachjargon des Anwendungsfalls vertraut machen, f\u00fchren wir in der Regel auch kein Training ihres Sprachverst\u00e4ndnisses von Grund auf durch, sondern starten mit den bestehenden Modellen und justieren diese nur noch nach. Hierdurch wird die Gesamt-CO2<\/sub>-Bilanz des Systems nat\u00fcrlich besser als bei einem System, das \u201cnach klassischem KI-Vorgehen\u201d jedes mal aufs Neue trainiert werden muss.<\/p>\n\n\n\n

Modellrechnung<\/strong><\/h2>\n\n\n\n

Um unsere Behauptungen von oben etwas zu untermauern, haben wir ein Rechenmodell aufgestellt, das wir euch zeigen m\u00f6chten. Nat\u00fcrlich ist das keine exakte Abbildung der Realit\u00e4t, aber man bekommt dadurch eine sehr gute Vorstellung, wie viel Energie hierbei umgesetzt wird. Da das Basistraining bei semantha nur einmalig notwendig ist, vereinfachen wir an dieser Stelle das Modell und streichen das Training aus der Rechnung. Wer das Basistraining in die Rechnung einbeziehen m\u00f6chte, kann am Ende bei Semantha noch 0,75kg CO2<\/sub> hinzurechnen und f\u00fcr\u2019s Justieren f\u00fcr den Fachjargon jeweils ein halbes Kilo CO2<\/sub>[9]<\/sup>.<\/p>\n\n\n\n

Um den CO2-Fu\u00dfabdruck zu bestimmen, gehen wir davon aus, dass jeder Mitarbeiter im Unternehmen beim Erledigen seiner Aufgabe einen PC (110W) nebst Monitor (60W) zur Verf\u00fcgung hat und seinen PC zu etwa 25% auslastet; eine GPU ben\u00f6tigt er dabei nicht. Die power usage effectiveness<\/em> (PUE) haben wir mit 1,58 angenommen[10]<\/sup>. Demgegen\u00fcber stellen wir semantha, die f\u00fcr alle Mitarbeiter auf nur einem Serversystem l\u00e4uft. Es ben\u00f6tigt 165W, verf\u00fcgt aber nicht \u00fcber einen Monitor; auch hier gehen wir von einer 25%igen Auslastung aus. Semantha ben\u00f6tigt f\u00fcr den Betrieb ebenfalls keine GPU – die brauchen wir nur f\u00fcr das Basistraining und die Justierung der Modelle f\u00fcr den Fachjargon.<\/p>\n\n\n\n

Um von den Verbrauchswerten (und den Einsparungen) in kWh auf einen CO2<\/sub>-Fu\u00dfabdruck zu kommen, werfen wir noch einen Blick auf den Strommix – den habt ihr vermutlich schon in euren privaten Stromrechnungen gesehen. Das Umweltbundesamt nimmt an, dass bei der Stromproduktion im Jahr 2022 pro kWh 0,434kg CO2 erzeugt werden[11]<\/sup>. Zahlen f\u00fcr die USA liegen je nach Quelle zwischen 0,432 kg\/kWh (wie im Paper von Stubell et al.) und 0,707 kg\/kWh (wie in den offiziellen Zahlen der EPA f\u00fcr 2018[12]<\/sup>).<\/p>\n\n\n\n

Damit haben wir alles zusammen, um die CO2-Emissionen eines Prozesses abzusch\u00e4tzen. Nehmen wir an, ein Betrieb habe 100 Mitarbeiter, die dieselbe Aufgabe jeweils 30 mal im Jahr durchf\u00fchren m\u00fcssen und daf\u00fcr jeweils eine Arbeitswoche ben\u00f6tigen (also inkl. Recherche, Nachdenken usw.). Dann kommen wir auf 100 x 30 x 40h x (25% x 110W + 60W) x 1,58 = 16.590 kWh. Gemessen am Deutschen Energiemix gibt das einen CO2<\/sub>-Aussto\u00df von 7,20 Tonnen.<\/strong><\/p>\n\n\n\n

Diesem Wert stellen wir die Bilanz eines Prozesses gegen\u00fcber, der von semantha unterst\u00fctzt wird: Die Basisrechnung ist dabei dieselbe. Wir gehen allerdings davon aus, dass semantha f\u00fcr die Bearbeitung einer Anfrage 2 Minuten Rechenzeit unter Volllast ben\u00f6tigt und die Mitarbeiter mit ihrer Antwort nur noch 4h pro Aufgabe (also nur noch 1.659 kWh). semantha ben\u00f6tigt daf\u00fcr 100 x 30 x 0,03h x (100% x 165W) x 1,58 = 26,07 kWh also 12,20 kg CO2<\/sub>. Damit h\u00e4tten wir also 14.905 kWh und gemessen am Deutschen Energiemix 6,469 Tonnen CO2<\/sub> gespart.<\/strong> Um das ganze in einen Kontext zu setzen, hier ein paar CO2-Werte zum Vergleich[13]<\/sup>:<\/p>\n\n\n\n

<\/td>CO<\/strong>2<\/sub> in Tonnen<\/strong><\/td>Quelle<\/strong><\/td><\/tr>
Pro Kopf und Jahr 2021, Deutschland<\/td>8,09<\/td><\/td><\/tr>
Pro Kopf und Jahr 2021, USA<\/td>14,86<\/td><\/td><\/tr>
Pro Kopf und Jahr 2021, Indien<\/td>1,93<\/td><\/td><\/tr>
Hin- und R\u00fcckflug FRA \u2192 JFK in einem A380-800 pro Person<\/td>3,226<\/td><\/td><\/tr>
12.000 km Autofahren in Deutschland mit einem Mittelklassewagen<\/td>2<\/td><\/td><\/tr><\/tbody><\/table>
CO2<\/sub>-Emissionen zum Vergleich[13]<\/a><\/sup>.<\/figcaption><\/figure>\n\n\n\n

Mit dem Rechner unten auf der Seite k\u00f6nnt ihr die Rechnung der Umweltbilanz auch noch einmal mit anderen Annahmen durchspielen, zum Beispiel mit mehr Mitarbeitern, weniger Zeiteinsparung, mehr semantha-Rechenzeit pro Aufgabe und so weiter.<\/p>\n\n\n\n

\u00d6kologischer dank IT!<\/strong><\/h2>\n\n\n\n

semantha kann einen wertvollen Beitrag zur Prozessverbesserung beitragen und dadurch zu erheblichen Einsparungen beim CO2-Fu\u00dfabdruck eines Unternehmens leisten. Das liegt vor allem daran, dass wir semantha nicht f\u00fcr jeden Anwendungsfall neu trainieren m\u00fcssen (und sind wir mal ehrlich: bei Standard-Machine-Learning bleibt es selten bei nur einem Trainingszyklus) und auch bei \u00c4nderungen an der Sachlage (neue Informationen k\u00f6nnen ber\u00fccksichtigt werden, Regularien \u00e4ndern sich usw.) k\u00f6nnen wir semanthas library anpassen anstelle des genutzten Sprachmodells.<\/p>\n\n\n\n

Betrachten wir das Basistraining explizit, so sehen wir, dass wir weit unter dem Energiebedarf eines aktuellen NLP-Modells liegen: F\u00fcr semantha  ben\u00f6tigen wir nur 0,75kg wohingegen das Basistraining von BERT mit \u00fcber 700kg zu Buche schl\u00e4gt[9]<\/a><\/sup>.<\/p>\n\n\n\n