活動報告
Activities
Activities
January 2022: SCIS2022 Symposium on Cryptography and Information Security
2022/1/18(火) ～ 1/21(金)に開催された「SCIS2022 暗号と情報セキュリティシンポジウム」にて、AIにおけるSafetyとSecurityの動向と課題について発表しました。
We made a presentation on the trends and issues of Safety and Security in AI at "SCIS2022 Symposium on Cryptography and Information Security" held on 1/18(Tue) - 1/21(Fri), 2022.
発表内容(Contents of presentation)：
櫻井 幸一(九州大学), 溝口 誠一郎(DNVビジネスアシュアランスジャパン)
概要：AI safety とsecurity の研究状況調査を、国際と国内及び産学官の観点から報告した。
Research Trends in AI Safety and Security: International and Domestic, Industry, Academia and Government.
Kouichi Sakurai (Kyushu University), Seiichiro Mizoguchi (DNV Business Assurance Japan)
Abstract: We reported the research status of AI safety and security from the viewpoints of international, domestic and industry-academia-government.
溝口 誠一郎(DNVビジネスアシュアランスジャパン株式会社), 櫻井 幸一(九州大学大学院システム情報科学研究院)
概要：人工知能は、日常の様々な場面で利用可能となっており、中には安全について考慮しなければならないケースも存在する。海外の動向として、ENISAのように、人工知能の利用に関する法整備が進められているが、セーフティクリティカルな製品やサービスについて、その安全とセキュリティに関する説明責任が求められてくることは自明である。自動車をケースとすると、UN法規および各国際標準をベースに、自動運転システムの安全性とサイバーセキュリティの設計・検証・妥当性確認等によって、説明責任を果たすことになる。本発表では、安全やセキュリティに関する論証構造の中で人工知能搭載システムがどのように扱われるか、及びその課題について、自動運転システムを例に報告した。
Current Status of Safety Argumentation and Challenges for Security Argumentation for Artificial Intelligence-Based Systems: An Example of Automated Driving System.
Seiichiro Mizoguchi (DNV Business Assurance Japan), Koichi Sakurai (Kyushu University)
Abstract: Artificial intelligence can be used in a variety of everyday situations, some of which require safety considerations. As for overseas trends, such as ENISA, laws regarding the use of artificial intelligence are being developed, and it is obvious that safety-critical products and services will be required to be accountable for their safety and security. In the case of automobiles, accountability will be achieved by designing, verifying, and validating the safety and cyber security of automated driving systems based on UN regulations and international standards. In this presentation, I reported how artificial intelligence-equipped systems are treated in the argumentation structure regarding safety and security, and the challenges involved, using automated driving systems as an example.