$\sqrt{a^2 - b^2}$と$\sqrt{b^2 - a^2}$の扱いをabsでいい感じにしたつもりが、$a = b$の時の処理を見落としていたのでWA。

#!/usr/bin/env python3
import math
a, b = map(int,input().split())
print('%.10f' % math.sqrt(min(a**2+b**2, abs(a**2-b**2) if a != b else float('inf'))))