Was ist eigentlich ein Bit?

Was ist eigentlich … ein Bit?

Der Begriff „Bit“ wird wie selbstverständlich verwendet – aber was genau ist eigentlich ein Bit?