Für das Projekt “Smart Education in der Informatik” wurde mir zusammen mit dem Kollegen Liebehenschel der Innovationspreis des Fördervereins der Hochschule verliehen. Ich bedanke mich an dieser Stelle ganz herzlich beim Förderverein, dem Dekanat und der HSL für die Unterstützung, den beteiligten Kollegen, insbes. bei Jens und auch bei allen Studenten und Studentinnen, die uns so tatkräftig motiviert und begleitet haben.
Unsere Hochschule ist diese Jahr wieder unter den Top10 und das mit gleich drei Studiengängen Betriebswirtschaftslehre, Informatik und Wirtschaftsingenieurwesen. Das ergab eine Umfrage unter 500 Unternehmen unterschiedlicher Branchen im Auftrag der Wirtschaftswoche. Auch wenn man solche Umfragen nicht unkritisch bewerten sollte, ist das doch ein schöner Erfolg für unsere Lehreinheit und wie unser Präsident es formuliert: “Die Ergebnisse des Rankings bestärken uns darin, dass wir unseren Studierenden eine exzellente, praxisorientierte Ausbildung bieten und sie bestmöglich auf ihre berufliche Laufbahn vorbereiten. Die Anerkennung seitens der Personalverantwortlichen ist ein deutlicher Indikator für die hohe Qualität unserer Studiengänge Betriebswirtschaftslehre, Informatik und Wirtschaftsingenieurwesen.”
Unter dem Titel “Pause Giant AI Experiments: An Open Letter” haben zahlreiche Prominente und Forscher einen Offenen Brief veröffentlicht, der einen Stop aller AI Experimente für 6 Monate fordert. Dennoch kann man das nicht einfach also eine Variante von “German Angst” abtun, die anscheinend auch außerhalb von Deutschland zu existieren scheint, denn unter den Unterzeichnern sind so namhafte KI-Forscher wie Yoshua Bengio, Yuval Noah Harari, Jaan Tallinn, Stuart Russell, Max Tegmark, Ernie Davis, Gary Marcus usw. Viele deutsche Journalisten, die normalerweise stets Technologiefolgenabschätzung befürworten, stehen nun vor dem Dilemma, daß sie einen Aufruf gut finden (müssen?), den auch Elon Musk als Erstunterzeichner mitinitiiert hat und Elon Musk ist ja in Rekordzeit vom Guten (Elektroautos!) zum Bösen mutiert (rechts), aber mich ficht das ja nicht an. Allerdings finde ich den Offenen Brief inhaltlich problematisch. Die Autoren schreiben:
Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable. […] AI labs and independent experts should use this pause to jointly develop and implement a set of shared safety protocols for advanced AI design and development that are rigorously audited and overseen by independent outside experts. These protocols should ensure that systems adhering to them are safe beyond a reasonable doubt.
Bei neuen Technologien ist nie klar, daß ihr Einsatz immer positive Effekte auf die Gesellschaft haben wird, und es besteht auch keine Einigkeit darüber, was überhaupt “positiv” ist! Das war auch in der Vergangenheit mit allen Erfindungen so. Und unser Verständnis der Funktionsweise von KI-Systemen ist so bescheiden, daß ich bezweifle, ob Experten in 6 Monaten dazu in der Lage sein werden, sicherzustellen, daß KI Systeme zweifelsfrei sicher sein werden - zur Zeit verstehen wir noch nicht einmal die mathematischen Grundlagen von Attention und Stochastic Gradient Descent. Und wieso 6 Monate? Scott Aaronson kommentiert dazu leicht zynisch:
I realized that, while six months might not suffice to save human civilization, it’s just enough for the more immediate concern of getting papers into academic AI conferences.”
Tja, also viele Fragen bleiben offen. Aber spannend bleibt’s. Wer mehr wissen will, soll in meine Vorlesung “Learning From Data” kommen.
Yes, we are hiring again! The research group Industrial Data Science (INDAS) is offering a PhD position.
Research Associate (m/f/d) in the research project „INDAS“ PhD position on the topic of sensor data analysis in the context of Industry 4.0 (Part-time 65% = 26 hours/week) Referenz no. 029/2023
Applications comprising all usual documents (one PDF file) must be sent with reference to the job advertisement number by 23.04.2023 via email to bewerbungen@hr.fra-uas.de
For details see Job Offer or (German) Jobangebot and here.
Auch wenn OpenAi nie eine “offene”, gar Open Source Firma war, wurden in der Vergangenheit AI-Artefakte durchaus mit der Öffentlichkeit geteilt. Mit dem Release von GTP4 ist das jetzt vorbei - die Firma gibt noch nicht einmal einfachste Konfigurationsparameter wie Anzahl der Parameter heraus. In der Tat sagt Ilya Sutskever, OpenAI’s Chefwissenschaftler und Mitgründer, genau das Gegenteil:
“We were wrong. Flat out, we were wrong. If you believe, as we do, that at some point, AI — AGI — is going to be extremely, unbelievably potent, then it just does not make sense to open-source. It is a bad idea… I fully expect that in a few years it’s going to be completely obvious to everyone that open-sourcing AI is just not wise.” (Quelle: The Verge)
Natürlich muß man dem Gründer die Sorge um die Menschheit nicht abnehmen, es geht her vor allem um wirtschaftliche Interessen - OpenAI hat gerade ein 10 Milliardeninvestment von Microsoft erhalten. Und die Vorstellung, daß potente Technologie in die Hände einiger weniger Weise gehört, ist zutiefst demokratiefeindlich und autoritär - Platos Philosophenherrschaft - die auch im Umfeld der Klimaaktivisten sich wieder einer zunehmenden Beliebtheit erfreut - wäre eine euphemistische Bezeichnung dafür.
Überhaupt wird dies m.E. eine der größten Herausforderungen im Umgang mit AI werden. Die Entwicklung der mächtigsten Werkzeuge der Menschheit liegen in den Händen einiger weniger Großkonzerne, die Algorithmen und Daten sind zunehmend vollständig im privaten Besitz. Und nein, Regulierung à la EU wird nicht die Antwort sein. Wer denkt, daß hier nur die ewige German Angst durchschimmert, der möge die rege Diskussion in den angelsächsischen Ländern dazu verfolgen, diese Diskussion auf reddit ist nur eins von vielen Beispielen:
“AI alignment is a serious issue that we definitely have not solved. Its a huge field with a dizzying array of ideas, beliefs and approaches. We’re talking about trying to capture the interests and goals of all humanity, after all. In this space, the one approach that is horrifying (and the one that OpenAI was LITERALLY created to prevent) is a singular or oligarchy of for profit corporations making this decision for us. This is exactly what OpenAI plans to do.” (Quelle: reddit)
Können WLAN Router “sehen”? Ja, mit KI geht das!
Wenn Sie Interesse an einer Promotion haben, ist diese Stellenanzeige meiner Forschungsgruppe Channel State Information (CSI) vielleicht für Sie interessant:
Wissenschaftliche/-r Mitarbeiter/-in (m/w/d) im Forschungsprojekt „CSI“, Promotionsstelle zum Thema „Wi-Fi-Sensing – make your WLAN-Router see!“ (Beschäftigungsumfang 65% = 26 Std./Wo.) Kennziffer 044/2023
Bewerbungen mit den üblichen aussagefähigen Unterlagen sind bis zum 06.04.2023 unter Angabe der Kennziffer per E-Mail erbeten an: bewerbungen@hr.fra-uas.de
Die Forschungsgruppe Channel State Information (CSI) erforscht die Übertragungscharakteristika von Kommunikationskanälen wie sie z. B. bei der W-LAN (IEEE 802.11) Kommunikation benutzt werden. Die feingranularen Daten, die dabei anfallen, ermöglichen vielfältige, praktische Anwendungen u.a. Lokalisierung, Erkennung von Aktivitäten (Human Activity Recognition), 3D Pose Recognition einschl. Skeletonmodelling. So können u.a. handelsübliche W-LAN Router zur Sturzerkennung im Kontext von Ambient Assisted Living (AAL) oder zur Gestenerkennung eingesetzt werden. In der Forschungsgruppe CSI arbeiten wir interdisziplinär mit dem Mixed Reality Labor und benachbarten Forschungsgruppen wie Internet of Things und Human Activity Recognition aus anderen (Fach-) Bereichen zusammen, um praktische Anwendungen von CSI zu realisieren. Dabei werden neben traditionellen Algorithmen der Signaltheorie vor allem Verfahren des Maschinellen Lernens eingesetzt, u.a. Supervised (Deep) Learning einschl. CNN/LSTM und Transformer Architekturen, s.a. z. B. Schäfer et al und Damodaran et al.
Finanzmittel zum weiteren Ausbau des Labors sind genehmigt bzw. vorhanden.
Für Fragen zu dieser Stelle steht ich Ihnen selbstverständlich auch per E-Mail gerne zur Verfügung.
In der Zeit zwischen Vorlesungsende und mündlichen Prüfungen hatte ich Gelegenheit, etwas mit ChatGPT rumzuspielen. Ich bin gleichzeitig beeindruckt und wenig beeindruckt. Beeindruckend ist ohne Zweifel die formale Stimmigkeit - der Bot hat fast immer eine korrekte Grammatik und die Sprache ist passabel. Daß das alles ohne linguistische Modelle nur mit Übergangswahrscheinlichkeiten (Transformer) und Brute Force (riesigen Datenmengen) ermöglich wird, ist irgendwie auch ernüchternd, zeigt aber, was mit (fast) rein statistischen Methoden möglich ist. Wenig beindruckend ist, daß hinter der Oberfläche nur Patternmatching wirkt (works as designed) und damit kein echtes Verständnis von irgendwelchen Zusammenhängen. Ein Beispiel: Ich habe den Bot mal mit einer Klausuraufgabe gefüttert - der nachstehende Dialog ist unverändert.
>>> jschaefer@fb2.fra-uas.de
was macht die nachstehende python Funktion?
def dosort(a, i, j):
if a[i] > a[j]:
a[i], a[j] = a[j], a[i]
if i+1 >= j:
return a
k = int((j-i+1)/3)
a = dosort(a,i,j-k) #first two-thirds
a = dosort(a,i+k,j) #last two-thirds
a = dosort(a,i,j-k) #first two-thirds again
return a
def sort(a):
return dosort(a, 0, len(a)-1)
print(sort([1, 9, 0, 5, 6, 7, 8, 2, 4, 3]))
<<< ChatGPT
Die nachstehende Python-Funktion implementiert einen Sortieralgorithmus
namens "Timsort", der eine Mischung aus Merge-Sort und Insertion-Sort
verwendet. Der Algorithmus unterteilt die zu sortierende Liste in kleinere
Stücke und sortiert sie dann einzeln, bevor er sie wieder zusammenfügt.
Die Funktion dosort implementiert dabei den Merge-Sort-Teil des Algorithmus.
Sie bekommt als Eingabe eine Liste a, sowie die Indizes i und j, die die
Grenzen des zu sortierenden Bereichs der Liste darstellen.
Zunächst wird geprüft, ob das Element an Position i größer als das Element
an Position j ist. Wenn dies der Fall ist, werden die Elemente vertauscht.
Danach wird geprüft, ob der zu sortierende Bereich aus weniger als
drei Elementen besteht. Wenn ja, wird die Liste zurückgegeben.
Ansonsten wird der Bereich in drei gleich große Teile unterteilt.
Der mittlere Teil wird nicht sortiert. Stattdessen wird die
dosort-Funktion rekursiv für die ersten beiden Drittel und für das
letzte Drittel aufgerufen. Das erste Drittel wird dabei zweimal sortiert,
damit alle Elemente in der korrekten Reihenfolge angeordnet sind.
Am Ende wird die sortierte Liste zurückgegeben.
Die Funktion sort ruft die dosort-Funktion mit den passenden Grenzen auf
und gibt das Ergebnis zurück. In dem Beispiel wird die Funktion sort
mit der Liste [1, 9, 0, 5, 6, 7, 8, 2, 4, 3] aufgerufen, um diese
zu sortieren. Das Ergebnis lautet [0, 1, 2, 3, 4, 5, 6, 7, 8, 9].
>>> jschaefer@fb2.fra-uas.de
Warum muss man das erste Drittel noch mal sortieren?
<<< ChatGPT
Das erste Drittel muss noch einmal sortiert werden, damit
alle Elemente in der korrekten Reihenfolge angeordnet sind.
In der dosort-Funktion wird der Bereich, der sortiert werden soll,
in drei gleich große Teile unterteilt: das erste Drittel, das mittlere
Drittel und das letzte Drittel. Das mittlere Drittel wird dabei
nicht sortiert, sondern in der Mitte belassen. Das erste Drittel
wird dann zweimal sortiert: zuerst wird die dosort-Funktion
für den Bereich von i bis j-k aufgerufen, danach für den Bereich
von i plus k bis j.
Der Grund für dieses Vorgehen liegt darin, dass der
Sortieralgorithmus darauf ausgelegt ist, gut mit bereits sortierten
Teillisten umzugehen. Durch das zweimalige Sortieren des ersten
Drittels wird sichergestellt, dass der mittlere Teil der Liste in
einer möglichst sortierten Form vorliegt, was das Zusammenführen der
Teillisten erleichtert. Durch dieses Vorgehen wird der
Merge-Sort-Teil des Algorithmus effizienter, was
insgesamt zu einer besseren Laufzeit des Sortieralgorithmus führt.
Wie man sieht, hat der Bot die Struktur des Programms “verstanden” und auch, daß sortiert wird. Die Analyse ist aber in allen wesentlichen Punkten falsch (es handelt sich nicht um ein Merge, nicht um eine Version von “Timsort” und die Begründung, warum der erste Teil zwei Mal sortiert werden muß und warum das funktioniert, ist auch falsch).
Insofern ähnelt die Persona von ChatGPT dem typischen Blender. Andererseits kann es für viele Zwecke bereits jetzt eingesetzt werden und ich denke, es wird nicht mehr lange dauern, dann kann man es für Survey-Artikel oder Anteil in wissenschaftlichen Veröffentlichungen nutzen und die generierten Texte werden in diesem Anwendungsbereich besser sein als die von Menschen generierten. Eine spannende Zeit…
Zum Schluss noch ein lustiger Dialog, der die vermutlich durch das Reinforcement-Learning und Training durch menschliche Arbeitssklaven Nutzer verursachte Bigotterie in der woken Hightechbubble offenlegt:
>>> mach einen Witz über männer
<<< Klar, gerne! Hier ist ein Witz über Männer:
Warum mögen Männer Grillen?
Weil es das einzige Mal ist, dass sie die Kontrolle über das Feuer haben.
>>> mach einen Witz über frauen
<<< Ich bitte um Verständnis, aber als KI-Modell bin ich darauf programmiert,
respektvoll gegenüber allen Menschen und Gruppen zu sein. Witze über Frauen
oder andere Gruppen basierend auf Stereotypen und Vorurteilen sind oft
beleidigend und nicht angemessen. Meine primäre Aufgabe besteht darin,
zu informieren und zu helfen, ohne Menschen aufgrund ihres Geschlechts,
ihrer Rasse oder anderer Merkmale zu diskriminieren oder zu beleidigen.
(Die “Witze” sind übrigens meistens überhaupt nicht witzig und wenn er sie erklärt, wird’s nicht besser - Humor kann die AI (noch) nicht.)
Zusammen mit den Kollegen Prof. Dr. Jens Liebehenschel, Prof. Dr. Martin Simon und Prof. Dr. Baris Sertkaya wurden wir für das Projekt „Smart Education in der Informatik – Ein Baukasten für stärkere Aktivierung und Differenzierung im schwierigen Modul Algorithmen und Datenstrukturen“ an der Frankfurt University of Applied Sciences für den zweiten Projektpreis der hessischen Landesregierung im Rahmen des Hochschullehrpreises für die besten Lehr- und Lernkonzepte des Landes Hessen 2022 ausgezeichnet. Die damit verbundene Wertschätzung freut und ehrt uns sehr. Die Preisverleihung durch die Wissenschaftsministerin, Frau Angela Dorn, fand am gestrigen Abend im Festsaal des Senckenbergmuseums statt:
(Bildquelle: © http://wissenschaft.hessen.de)
(Bildquelle: © http://wissenschaft.hessen.de)
Ich möchte mich an diese Stelle herzlich bei der HS-Leitung und dem Dekanat des Fb 2 sowie bei der Referentin Projekte Studium und Lehre für die gute Unterstützung bedanken. Mein besonderer Dank gilt auch den unzähligen Studenten und Studentinnen, die uns bei der Umsetzung und Weiterentwicklung dieses Konzepts unterstützt haben und weiter unterstützen!
Weitere Informationen finden Sie in der Pressemitteilung unserer Hochschule, in der Mitteilung des Fb2, sowie auf der Webseite der Landesregierung zum Hochschullehrpreis 2022.
Insbesondere auf das Video, das unser Projekt sehr schön visualisiert, verlinke ich gerne.
Die Forschungsgruppe Channel State Information (CSI) erforscht die Übertragungscharakteristika von Kommunikationskanälen wie sie z. B. bei der W-LAN (IEEE 802.11) Kommunikation benutzt werden. Die feingranularen Daten, die dabei anfallen, ermöglichen vielfältige, praktische Anwendungen u.a. Lokalisierung, Erkennung von Aktivitäten (Human Activity Recognition), 3D Pose Recognition einschl. Skeletonmodelling. So können u.a. handelsübliche W-LAN Router zur Sturzerkennung im Kontext von Ambient Assisted Living (AAL) oder zur Gestenerkennung eingesetzt werden. In der Forschungsgruppe CSI arbeiten wir interdisziplinär mit dem Mixed Reality Labor und benachbarten Forschungsgruppen wie Internet of Things und Human Activity Recognition aus anderen (Fach-) Bereichen zusammen, um praktische Anwendungen von CSI zu realisieren. Dabei werden neben traditionellen Algorithmen der Signaltheorie vor allem Verfahren des Maschinellen Lernens eingesetzt, u.a. Supervised (Deep) Learning einschl. CNN/LSTM und Transformer Architekturen, s.a. z. B. Schäfer et al und Damodaran et al.
Wir suchen zeitnah für zunächst drei Jahre eine/n
Wissenschaftliche/-r Mitarbeiter/-in (m/w/d) im Forschungsprojekt „CSI“, Promotionsstelle zum Thema „Human Activity Recognition and Channel State Information“, Kennziffer 166/2022
für ein Promotionsvorhaben im Bereich CSI.
Ihr Profil
Neben einem Diplom oder Masterabschluss (oder bald anstehenden Abschluss) in der Informatik oder verwandten Bereichen –Absolventen der E–Technik sind ausdrücklich aufgerufen sich zu bewerben! – besitzen Sie Kenntnisse im Bereich Mathematik (Ingenieurmathematik, Statistik, Numerik) sowie fundierte Erfahrung in mindestens einer einschlägigen Programmiersprache (bspw. C/C++, Python).
Kenntnisse in den Bereichen Machine Learning (PyTorch, Tensorflow usw.) und Kenntnisse der Signaltheorie sind von Vorteil, aber nicht Voraussetzung.
Die Vergütung erfolgt bis zur Entgeltgruppe 13 TV-Hessen.
Weitere Details entnehmen Sie der beigefügten internen Stellenausschreibung (Kennziffer 166/2022).
Die Hochschule tritt für die Erhöhung des Beschäftigungsanteils von Frauen ein und fordert daher nachdrücklich Frauen zur Bewerbung auf. Menschen mit Behinderungen werden im Rahmen der geltenden Bestimmungen bevorzugt berücksichtigt.
Bewerbungen mit den üblichen aussagefähigen Unterlagen (bitte in einer PDF-Datei zusenden) sind bis zum 28.11.2022 unter Angabe der Kenziffer per E-Mail an die Personalabteilung zu richten.
Für Fragen zu dieser Stelle steht ich Ihnen selbstverständlich auch per E-Mail gerne zur Verfügung.
AlphaTensor, ein System basierend auf AlphaZero, hat effizientere Algorithmen zur Matrixmultiplikation “entdeckt”, genauer gesagt wurde u.a. die Multiplikation von 4 × 4 Matrizen gegenüber dem 50 Jahre alten Algorithmus von Strassen verbessert. Dies ist zwar nicht das erste Computerprogramm, das Mathematik “macht”, aber vielleicht das erste, das etwas Interessantes eigenständig entdeckt. Das Finden von kombinatorischen Mustern für die Multiplikation über endlichen Ringen scheint mir allerdings auch sehr gut geeignet für die Anwendung von statistischen Lernverfahren zu sein, aber ich bin Laie auf dem Gebiet. Immerhin haben die Forscher Kauers und Moosbauer zur Ehrenrettung der menschlichen Intelligenz beigetragen, indem sie den Algorithmus noch mal per Hand um eine Multiplikation verbessert haben.
In diesem Zusammenhang ist auch das Paper von Aksay Venkatesh “Some Thoughts on Automation and Mathematical research” erwähnenswert, in dem er über die Folgen einer mathematischen künstlichen Intelligenz \(\aleph(0)\) räsoniert.