近年のAIやIoTのトレンドを受けて，自動運転をはじめとして自律的な動作を行うソフトウェアシステムが産業界でも盛んに追求されるようになった． しかしそのようなシステムは，広い実世界に深く踏み込み，最適化や機械学習による実装を用いる不確かさがあり，テスト・デバッグの方法論が未確立である． 本講演では，産学連携を通して取り組んだ，自動運転・AIシステムに対するテスト・デバッグ技術の研究開発について紹介する． 特に，プログラムを対象に長年取り組まれてきた自動テスト生成， バグ箇所推定， プログラム自動修正の技術を紹介し，その自動運転やAIシステムへの展開事例を示す．