Система числення - сукупність прийомів і правил для зображення чисел за допомогою символів (цифр), що мають певне кількісне значення. Залежно від способів зображення чисел цифрами системи числення діляться на непозиційні і позиційні. В ЕОМ застосовуються позиційні системи числення. Непозиційні системи числення у ОТ не використовуються через свою громіздкість і складність правил виконання дій.
Позиційною системою числення називається така, в якій кількісне значення кожної цифри залежить від її позиції (місця) в числі. Прикладом може служити звичайна (арабська) десяткова система числення. Наприклад, число 373, представлене в десятковій системі числення, має в молодшому і самому старшому розрядах цифру 3. Цифра 3 в старшому розряді має вагу в 100 разів більше, ніж в молодшому розряді. В позиційній системі числення будь-яке число може бути подано у вигляді наступної суми:
, де k - загальна кількість розрядів в зображені числа; ai - цифра і - го розряду; d - основа системи числення;
і - порядковий номер розряду.
Цифри, необхідні для побудови системи числення, повинні задовольняти нерівність . Основою системи числення d називається кількість знаків або символів, що використовуються для зображення числа в даній позиційній системі числення. За основу d можна прийняти будь-яке число.
Для десяткової системи числення d=10.
Десяткове число 897,346 можна представити у вигляді наступної суми:
8 9 7 3 4 6
коефіцієнти
Таким чином, десяткове число є сумою різних ступенів десяти з відповідними коефіцієнтами. Ці коефіцієнти зображають число 897,346 у вигляді скороченого запису. Використовування в ЕОМ позиційних системах числення дозволяє значно спростити зображення чисел і операції з ними.
Від вибору системи числення при проектуванні ЕОМ залежать такі її характеристики, як швидкість обчислень, об'єм пам'яті, складність алгоритмів виконання арифметичних операцій. З погляду технічної реалізації якнайкращою є двійкова система числення, оскільки для побудови ЕОМ знайшли широке застосування двохпозиційні елементи. Двійкова система числення в ЕОМ є основною системою числення, в якій здійснюються арифметичні і логічні перетворення інформації в пристроях ЕОМ. Будь-яке число з двійкової системи числення може бути переведено в десяткову за допомогою формули розкладання:
Основним недоліком використовування двійкової системи числення є необхідність переведення початкових числових даних з десяткової системи числення в двійкову, а результатів виконання дій - з двійкової системи числення в десяткову. Операції, пов'язані з переведенням чисел в двійкову систему числення і назад, виконуються ЕОМ по спеціальних підпрограмах з використанням допоміжної двійково-десяткової системи числення.