{"title":"Exploring quality dimensions in trustworthy Machine Learning in the context of official statistics: model explainability and uncertainty quantification","authors":"Saeid Molladavoudi, Wesley Yung","doi":"10.1007/s11943-023-00331-z","DOIUrl":"10.1007/s11943-023-00331-z","url":null,"abstract":"<div><p>Despite the fact that National Statistical Offices (NSOs) continue to embrace and adopt Machine Learning (ML) methods and tools in a variety of areas of their operations, including data collection, integration, and processing, it is still not clear how these complex and prediction-oriented approaches can be incorporated into the quality standards and frameworks within NSOs or if the frameworks themselves need to be modified. This article focuses on and builds upon two of the quality dimensions proposed in the Quality Framework for Statistical Algorithms (QF4SA): model explainability and accuracy (including uncertainty). The implications of the current methods for explainable ML and uncertainty quantification will be examined in further detail, as well as their possible uses in statistical production, such as continuous model monitoring in intermediate ML classifications and auto-coding phases. This strategy will ensure that human subject-matter experts, who are an essential component of every statistical program, are effectively integrated into the life cycle of ML projects. It will also guarantee to maintain the quality of ML models in production, adhere to the current quality frameworks within NSOs, and ultimately boost confidence and trust in these emerging technologies.</p></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 3-4","pages":"223 - 252"},"PeriodicalIF":0.0,"publicationDate":"2023-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"139211742","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Quality aspects of annotated data","authors":"Jacob Beck","doi":"10.1007/s11943-023-00332-y","DOIUrl":"10.1007/s11943-023-00332-y","url":null,"abstract":"<div><p>The quality of Machine Learning (ML) applications is commonly assessed by quantifying how well an algorithm fits its respective training data. Yet, a perfect model that learns from and reproduces erroneous data will always be flawed in its real-world application. Hence, a comprehensive assessment of ML quality must include an additional data perspective, especially for models trained on human-annotated data. For the collection of human-annotated training data, best practices often do not exist and leave researchers to make arbitrary decisions when collecting annotations. Decisions about the selection of annotators or label options may affect training data quality and model performance.</p><p>In this paper, I will outline and summarize previous research and approaches to the collection of annotated training data. I look at data annotation and its quality confounders from two perspectives: the set of <i>annotators</i> and the <i>strategy</i> of data collection. The paper will highlight the various implementations of text and image annotation collection and stress the importance of careful task construction. I conclude by illustrating the consequences for future research and applications of data annotation. The paper is intended give readers a starting point on annotated data quality research and stress the necessity of thoughtful consideration of the annotation collection process to researchers and practitioners.</p></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 3-4","pages":"331 - 353"},"PeriodicalIF":0.0,"publicationDate":"2023-11-27","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00332-y.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"139230573","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Younes Saidani, Florian Dumpert, Christian Borgs, Alexander Brand, Andreas Nickl, Alexandra Rittmann, Johannes Rohde, Christian Salwiczek, Nina Storfinger, Selina Straub
{"title":"Qualitätsdimensionen maschinellen Lernens in der amtlichen Statistik","authors":"Younes Saidani, Florian Dumpert, Christian Borgs, Alexander Brand, Andreas Nickl, Alexandra Rittmann, Johannes Rohde, Christian Salwiczek, Nina Storfinger, Selina Straub","doi":"10.1007/s11943-023-00329-7","DOIUrl":"10.1007/s11943-023-00329-7","url":null,"abstract":"<p>Die amtliche Statistik zeichnet sich durch ihren gesetzlich auferlegten Fokus auf die Qualität ihrer Veröffentlichungen aus. Dabei folgt sie den europäischen Qualitätsrahmenwerken, die auf nationaler Ebene in Form von Qualitätshandbüchern konkretisiert und operationalisiert werden, sich jedoch bis dato hinsichtlich Ausgestaltung und Interpretation an den Anforderungen der „klassischen“ Statistikproduktion orientieren. Der zunehmende Einsatz maschineller Lernverfahren (ML) in der amtlichen Statistik muss daher zur Erfüllung des Qualitätsanspruchs durch ein spezifisches, darauf zugeschnittenes Qualitätsrahmenwerk begleitet werden. Das vorliegende Papier leistet einen Beitrag zur Erarbeitung eines solchen Qualitätsrahmenwerks für den Einsatz von ML in der amtlichen Statistik, indem es (1) durch den Vergleich mit bestehenden Qualitätsgrundsätzen des Verhaltenskodex für Europäische Statistiken relevante Qualitätsdimensionen für ML identifiziert und (2) diese unter Berücksichtigung der besonderen methodischen Gegebenheiten von ML ausarbeitet. Dabei (2a) ergänzt es bestehende Vorschläge durch den Aspekt der Robustheit, (2b) stellt Bezug zu den Querschnittsthemen Machine Learning Operations (MLOps) und Fairness her und (2c) schlägt vor, wie die Qualitätssicherung der einzelnen Dimensionen in der Praxis der amtlichen Statistik ausgestaltet werden kann. Diese Arbeit liefert die konzeptionelle Grundlage, um Qualitätsindikatoren für ML-Verfahren formell in die Instrumente des Qualitätsmanagements im Statistischen Verbund zu überführen und damit langfristig den hohen Qualitätsstandard amtlicher Statistik auch bei Nutzung neuer Verfahren zu sichern.</p>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 3-4","pages":"253 - 303"},"PeriodicalIF":0.0,"publicationDate":"2023-11-17","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00329-7.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"139266451","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Innovation for improving climate-related data—Lessons learned from setting up a data hub","authors":"Hendrik Christian Doll, Gabriela Alves Werb","doi":"10.1007/s11943-023-00326-w","DOIUrl":"10.1007/s11943-023-00326-w","url":null,"abstract":"<div><p>In this article, we present a framework to assess the challenges in the climate-related data landscape. From our perspective, we describe challenges and opportunities for innovation to close existing gaps in selected data quality dimensions for central banks and statistical offices. We further examine the role of networks in promoting innovation and international collaboration, highlighting practical experiences with a case study of the Sustainable Finance Data Hub at the Deutsche Bundesbank. Finally, we discuss how these lessons can provide avenues to enhance data quality in central banks and official statistics and outline directions for future research.</p></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 3-4","pages":"355 - 380"},"PeriodicalIF":0.0,"publicationDate":"2023-10-26","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00326-w.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"134908277","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Interview mit der Präsidentin des Statistischen Bundesamtes Dr. Ruth Brand","authors":"Ulrich Rendtel","doi":"10.1007/s11943-023-00327-9","DOIUrl":"10.1007/s11943-023-00327-9","url":null,"abstract":"<div><h2>Zusammenfassung</h2><div><p>Dieser Artikel enthält ein Interview mit der neuen Präsidentin des Statistischen Bundesamtes Dr. Ruth Brand.</p></div></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 2","pages":"183 - 190"},"PeriodicalIF":0.0,"publicationDate":"2023-09-19","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00327-9.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"50497401","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Eine Analyse des Studienerfolgs im Masterstudium auf der Basis von Umfrage- und administrativen Prüfungsdaten: Ein Vergleich von fünf Masterstudiengängen am Fachbereich Wirtschaftswissenschaft der Freien Universität Berlin","authors":"Ulrich Rendtel, Yeonjoo Lee, Hartmut Gerks","doi":"10.1007/s11943-023-00325-x","DOIUrl":"10.1007/s11943-023-00325-x","url":null,"abstract":"<p>In einer Umfrage unter den neu immatrikulierten Master-Studierenden wurden unter anderem der soziale Hintergrund, die Studienfinanzierung und die Motivation für den gewählten Studiengang erfragt. Durch die Verknüpfung von administrativen Prüfungsdaten mit den neuen Umfragedaten wird die Analyse der Studienverläufe und des Studienerfolgs im Zusammenhang mit individuellen Merkmalen ermöglicht. Damit vermeiden wir die Schwachstellen üblicher studentischer Befragungen mit hohem Non-response und Erinnerungsfehlern. Dieser Ansatz wird hier zum Vergleich von fünf Masterstudiengängen am Fachbereich (FB) Wirtschaftswissenschaft der Freien Universität Berlin (FU Berlin) benutzt. Nach der ersten Befragung wurden die Studierenden über die ersten 6 Fachsemester hinsichtlich des Erwerbs von Leistungspunkten (LP), dem Abschluss ihres Masterstudiums sowie den dabei erzielten Noten begleitet.</p><p>In den verknüpften Daten konnte ein Erfolgsbias der teilnahmebereiten Studierenden der Kohorte festgestellt werden, der aber durch eine geeignete Gewichtung über die Responserate gut beherrschbar ist. Wir vergleichen die Studiengänge in verschiedenen Phasen: Studieneingangsphase, Erreichen der Regelstudienzeit und Abschluss bis zum 6 Fachsemester. Weiterhin wird der Einfluss von Hintergrundmerkmalen auf die erreichte Note beim Studienabschluss untersucht. In der Studieneingangsphase ergeben sich deutliche Unterschiede zwischen den Studiengängen. Konditioniert man allerdings auf den Studienerfolg im ersten Semester, so verschwinden diese Unterschiede für die zweite Studienphase und den Abschluss des Studiums. Überraschend ist der geringe Einfluss der Bachelor-Note auf den Studienerfolg und die erzielte Master-Note. Die Ergebnisse zeigen die Möglichkeit auf, einen möglichen Studienabbruch schon relativ sicher anhand der erzielten LP in der Studieneingangsphase zu erkennen.</p>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"18 1","pages":"37 - 76"},"PeriodicalIF":0.0,"publicationDate":"2023-08-28","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00325-x.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"72934211","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Ronald Bachmann, Fernanda Martínez Flores, Christian Rulff
{"title":"Die Lohnlücke in der Zeitarbeit","authors":"Ronald Bachmann, Fernanda Martínez Flores, Christian Rulff","doi":"10.1007/s11943-023-00323-z","DOIUrl":"10.1007/s11943-023-00323-z","url":null,"abstract":"<p>Die Lohnlücke zwischen Personen, die innerhalb und außerhalb der Zeitarbeit beschäftigt sind, wird in Deutschland auf Grundlage verschiedener Datensätze berechnet, was teilweise zu sehr unterschiedlichen Ergebnissen führt. Der vorliegende Artikel untersucht die Lohnlücke in der Zeitarbeit daher anhand zweier Datensätze, den Integrierten Erwerbsbiografien (IEB) des Instituts für Arbeitsmarkt- und Berufsforschung der Bundesagentur für Arbeit und der Verdienststrukturerhebung (VSE) des Statistischen Bundesamtes. Hierzu wird die Lohnlücke auf Basis der beiden Mikrodatensätze mithilfe verschiedener ökonometrischer Verfahren analysiert.</p><p>Die Ergebnisse der Studie zeigen, dass beim Vergleich von öffentlichen Statistiken auf eine Vergleichbarkeit der zugrundeliegenden Stichprobe geachtet werden sollte. Die Lohnlücke bei den Monatslöhnen ist bei Verwendung von IEB-Daten etwas größer als bei VSE-Daten, was auf Unterschiede in der Zusammensetzung der Stichprobe zurückzuführen ist. Die ökonometrische Analyse der Monatslöhne ergibt für beide Datensätze, dass die bereinigte Lohnlücke, d. h. die Lohnlücke nach Kontrolle für beobachtbare Charakteristika, deutlich geringer ausfällt als die unbereinigte Lohnlücke. Eine zusätzliche Analyse der Stundenlöhne auf Grundlage der VSE zeigt, dass die bereinigte Lohnlücke nahe null liegt. Dies deutet darauf hin, dass die Arbeitszeit eine wichtige Rolle für die Lohnlücke spielt.</p>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"18 1","pages":"15 - 36"},"PeriodicalIF":0.0,"publicationDate":"2023-08-25","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00323-z.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"80341024","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Die Corona Pandemie in Deutschland","authors":"Ulrich Rendtel","doi":"10.1007/s11943-023-00324-y","DOIUrl":"10.1007/s11943-023-00324-y","url":null,"abstract":"<div><h2>Zusammenfassung</h2><div><p>Der Artikel präsentiert die Resultate der Grohmann Vorlesung, die am Ende der Corona Pandemie in Deuschland gehalten wurde. Er gibt einen Überblick über die Defizite des Monitorings der Pandemie in Deutschland und schlägt Alternativen vor, wie man bei zukünftigen Pandemien verfahren sollte. Der Artikel analysiert die Schwächen des offiziellen Meldesystems der Inzidenzzahlen und der Vorhersagen von Erkrankungsfällen. Die Vorgehensweise der wissenschaftlichen Kommission zur Evaluierung der Corona Schutzmaßnahmen wird kontrastiert mit alternativen Ansätzen und Ergebnissen. Schließlich werden weitere Zugänge zum Monitoring über Abwasserproben und repräsentative Stichproben vorgestellt. Der Artikel schließt mit einem Plädoyer für eine stärkere Rolle von Statistikern bei Entscheidungen über zukünftige Pandemien.</p></div></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 2","pages":"113 - 144"},"PeriodicalIF":0.0,"publicationDate":"2023-08-23","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00324-y.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"50506714","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Langfrist-Prognose von Performance-Indizes: Vergleich einiger Verfahren","authors":"Günter Bamberg, Sebastian Heiden, Michael Krapp","doi":"10.1007/s11943-023-00322-0","DOIUrl":"10.1007/s11943-023-00322-0","url":null,"abstract":"<div><h2>Zusammenfassung</h2><div><p>Langfrist-Prognosen sind typischerweise problematischer als Kurzfrist-Prognosen. Im Kapitalmarktkontext ist die Sachlage jedoch umgekehrt, da verlässliche Kurzfrist-Prognosen durch Arbitrageure sofort zunichte gemacht würden. Ex ante ist der Performance-Index am Prognosehorizont eine extrem rechtsschief verteilte Zufallsvariable. Prognosen, die auf dessen Modalwert abzielen, sind daher viel zu pessimistisch. Prognosen, die auf den Erwartungswert abzielen, sind dagegen zu optimistisch. Von den drei prominenten Lagemaßen ist nur der Median in der Lage, als Basis für eine verlässliche Prognose zu dienen. Es werden einige Praktiker-Verfahren untereinander und mit einem neuen Prognoseverfahren verglichen, welches auf der erwartungstreuen Schätzung des Medians beruht. Zur Illustration der Verfahren und der resultierenden Prognosen werden Daten des DAX bis 2022 verwendet. Es zeigt sich unter anderem, dass der erwartungstreue Median-Schätzer bessere Prognosen als das beste ‚Praktiker-Verfahren‘ liefert.</p></div></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 2","pages":"161 - 181"},"PeriodicalIF":0.0,"publicationDate":"2023-07-13","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00322-0.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"50477710","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Die Berücksichtigung von außergesetzlichen Merkmalen bei der Mietspiegelerstellung – Kausalität versus Vorhersage","authors":"Göran Kauermann, Michael Windmann","doi":"10.1007/s11943-023-00321-1","DOIUrl":"10.1007/s11943-023-00321-1","url":null,"abstract":"<div><h2>Zusammenfassung</h2><div><p>Das neue Mietspiegelgesetz erlaubt die Berücksichtigung von sogenannten außergesetzlichen Merkmalen wie Mietdauer und Vermietertyp bei der Erstellung von Mietspiegeln. Diese außergesetzlichen Merkmale dürfen in zukünftigen Mietspiegeln bei deren Erstellung und Modellwahl Einfluss finden, nicht aber im konkreten Mietspiegelmodell. Diese gesetzliche Vorgabe lässt viel Spielraum, der in diesem Beitrag aus statistischer Sicht beleuchtet wird. Anhand von konkreten Daten werden die Konsequenzen quantifiziert und aufgezeigt.</p></div></div>","PeriodicalId":100134,"journal":{"name":"AStA Wirtschafts- und Sozialstatistisches Archiv","volume":"17 2","pages":"145 - 160"},"PeriodicalIF":0.0,"publicationDate":"2023-06-14","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"https://link.springer.com/content/pdf/10.1007/s11943-023-00321-1.pdf","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"50481542","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"OA","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}