A Blockchain-Based Auditable Semi-Asynchronous Federated Learning for Heterogeneous Clients

Abstract

Federated learning (FL) is a privacy-preserving approach in Artificial Intelligence (AI) which involves exchanging intermediate training parameters instead of raw data, thus avoiding privacy breaches and promoting effective data collaboration. However, FL still faces several unresolved challenges, including the trust issue among participants, as traditional FL lacks a mutual consensus auditing mechanism. Another challenge is that when the number of participating nodes is large and resources are heterogeneous, it can lead to low efficiency. In order to overcome these challenges, we propose a Blockchain-based Auditable Semi-Asynchronous Federated Learning (BASA-FL) system. BASA-FL includes a smart contract that coordinates and records the exchange process of FL, enabling the ability to trace and audit the behavior of participating workers. Additionally, we propose an efficient semi-asynchronous approach in blockchain-based distributed FL as a main contribution to addressing heterogeneous problems. We design a method for quantifying worker contributions and distributing rewards based on contribution. Further, we use multi-index comprehensive evaluation to motivate workers to maintain high-quality and efficient participation in FL tasks. Our system is evaluated through simulation experiments to evaluate the semi-asynchronous mode's effectiveness, the audit mechanism's reliability, and the contribution quantification strategy.|연합 학습(Fedeated Learning)은 인공 지능 분야의 프라이버시 컴퓨팅 기술이다. 연합 학습은 원본 데이터 대신 중간 훈련 매개변수를 교환하여 개인 정보 유출을 효과적으로 방지하고 데이터 협업을 달성할수있다. 하지만 연합 학습에서는 반드시 해결해야할 문제가 존재한다. 첫 번째는 참가자들 간의 신뢰 문제로서 전통적인 연합 학습에는 합의 기반 감사 메커니즘이 없다. 둘째, 많은 수의 참여 노드와 이기종 리소스로 인해 집계 효율성이 낮다. 따라서 위의 문제를 해결하기 위해 우리는 블록체인 기반 준비동기 (Audable Semi-Asynchronous Federated Learning, BASA-FL) 시스템을 제안하였다. 우리는 스마트 계약을 지원하는 분산 FL 프로토콜을 설계하였으며 이는 스마트 계약을 사용하여 연합 학습의 프로세스를 제어하고 기록하여 참여자들의 행동을 추적하고 감사하는 기능을 실현한다. 또한 이기종 문제를 해결하기 위해 우리는 효율적인 준-비동기 알고리즘을 제안하고 준-비동기 모드에 적합한 다중 지표 기여 정량화 방식을 설계했다. 이 방식은 참여자의 기여에 따라 보상를 지급하고 작업에 대한 참여자의 동기를 유발하여 학습의 질을 향상시킬수있다. 마지막으로, 우리는 많은 시뮬레이션 결과를 통해 준-비동기 학습의 효율성과 설계된 감사 메커니즘 및 기여 정량화 방법의 신뢰성을 평가했다.