ಅಲ್ಗಾರಿದಮ್ ಪಕ್ಷಪಾತ: ಕಂಪ್ಯೂಟರ್ ಪ್ರೋಗ್ರಾಂಗಳು ಮನುಷ್ಯರ ಅಸಮಾನತೆಯನ್ನು ಏಕೆ ಹೆಚ್ಚಿಸುತ್ತವೆ?

ಕಂಪ್ಯೂಟರ್‌ಗಳು ನಾವು ಭಾವಿಸಿದಷ್ಟು ನಿಷ್ಪಕ್ಷಪಾತವಾಗಿ ಇರುವುದಿಲ್ಲವೇಕೆ?

ಸಾಮಾನ್ಯವಾಗಿ ಜನರಲ್ಲಿ ಒಂದು ಬಲವಾದ ನಂಬಿಕೆಯಿದೆ: ಮನುಷ್ಯರು ಸ್ವಜನಪಕ್ಷಪಾತ ಅಥವಾ ಲಂಚಕ್ಕೆ ಮರುಳಾಗಬಹುದು, ಆದರೆ ಕಂಪ್ಯೂಟರ್ ಕೇವಲ ಗಣಿತದ ಸೂತ್ರಗಳ ಆಧಾರದಲ್ಲಿ ಸಂಪೂರ್ಣ ನ್ಯಾಯಸಮ್ಮತ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಎಂದು. ಆದರೆ ವಾಸ್ತವದಲ್ಲಿ ಇದು ಸಂಪೂರ್ಣ ಸತ್ಯವಲ್ಲ. ಕಂಪ್ಯೂಟರ್ ಪ್ರೋಗ್ರಾಂಗಳು ಕೂಡ ಜನರ ಜಾತಿ, ಲಿಂಗ, ಬಡತನ ಅಥವಾ ಪ್ರದೇಶದ ಆಧಾರದ ಮೇಲೆ ಅನ್ಯಾಯದ ತೀರ್ಪುಗಳನ್ನು ನೀಡಬಹುದು. ಈ ಸಮಸ್ಯೆಯನ್ನೇ ಕಂಪ್ಯೂಟರ್ ಪ್ರೋಗ್ರಾಂನ ಏಕಪಕ್ಷೀಯ ಅಥವಾ ಅನ್ಯಾಯದ ನಿರ್ಧಾರಗಳು (ಅಲ್ಗಾರಿದಮಿಕ್ ಪಕ್ಷಪಾತ ಅಥವಾ Algorithmic Bias) ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.

ಕಂಪ್ಯೂಟರ್‌ಗೆ ಸ್ವಂತವಾಗಿ ನ್ಯಾಯ, ಧರ್ಮ ಅಥವಾ ಸಮಾನತೆಯ ಪ್ರಜ್ಞೆ ಇರುವುದಿಲ್ಲ. ಅದು ಕೇವಲ ನಾವು ಅದಕ್ಕೆ ನೀಡುವ ಹಳೆಯ ಇತಿಹಾಸದ ದಾಖಲೆಗಳಿಂದ ಕಲಿಯುತ್ತದೆ. ಸಮಾಜದ ಹಳೆಯ ಅಧಿಕಾರಿಗಳ ವೈಯಕ್ತಿಕ ಆಯ್ಕೆ ಮತ್ತು ಪೂರ್ವಾಗ್ರಹಗಳು (ಹ್ಯೂಮನ್ ಗೇಟ್‌ಕೀಪಿಂಗ್ ಅಥವಾ Human Gatekeeping) ಆ ಹಳೆಯ ಕಡತಗಳಲ್ಲಿ ಸೇರಿಕೊಂಡಿರುತ್ತವೆ. ಕಂಪ್ಯೂಟರ್ ಆ ಹಳೆಯ ಅನ್ಯಾಯಗಳನ್ನೇ ಸರಿಯಾದ ನಿಯಮವೆಂದು ತಪ್ಪಾಗಿ ಕಲಿಯುತ್ತದೆ; ಇದರಿಂದ ನಿರ್ದಿಷ್ಟ ಸಮುದಾಯಗಳ ಮೇಲೆ ಅಸಮಾನ ಅಥವಾ ಅನ್ಯಾಯದ ಪರಿಣಾಮ (ಡಿಸ್ಪರೇಟ್ ಇಂಪ್ಯಾಕ್ಟ್ ಅಥವಾ Disparate Impact) ಉಂಟಾಗುತ್ತದೆ.

ಹಳೆಯ ನೇಮಕಾತಿ ಸಮಿತಿ ಮತ್ತು ಪಕ್ಷಪಾತದ ಕಡತಗಳ ಹೋಲಿಕೆ

ಈ ಗಂಭೀರ ಸಮಸ್ಯೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಒಂದು ಹಳೆಯ ಕಂಪನಿಯ ಉದ್ಯೋಗ ಆಯ್ಕೆ ಸಮಿತಿಯನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ. ಕಳೆದ ಮೂವತ್ತು ವರ್ಷಗಳಿಂದ ಆ ಸಮಿತಿಯಲ್ಲಿದ್ದ ಪುರುಷ ಅಧಿಕಾರಿಗಳು ಕೇವಲ ಗಂಡಸರನ್ನು ಮಾತ್ರ ಮ್ಯಾನೇಜರ್ ಹುದ್ದೆಗಳಿಗೆ ಆರಿಸುತ್ತಾ ಬಂದಿರುತ್ತಾರೆ. ಇದು ಆ ಅಧಿಕಾರಿಗಳ ಪೂರ್ವಾಗ್ರಹವಾಗಿತ್ತು.

ಈಗ ಆ ಕಂಪನಿಯು ಕೆಲಸವನ್ನು ವೇಗಗೊಳಿಸಲು ಹೊಸ ಸಾಫ್ಟ್‌ವೇರ್ ಅಳವಡಿಸುತ್ತದೆ. ಆ ಸಾಫ್ಟ್‌ವೇರ್‌ಗೆ 'ಹಳೆಯ ಮೂವತ್ತು ವರ್ಷಗಳ ಕಡತಗಳನ್ನು ನೋಡಿ ಅದೇ ಅರ್ಹತೆಯುಳ್ಳ ಹೊಸ ಅಭ್ಯರ್ಥಿಗಳನ್ನು ಆರಿಸು' ಎಂದು ಸೂಚಿಸಲಾಗುತ್ತದೆ. ಕಂಪ್ಯೂಟರ್ ಹಳೆಯ ದಾಖಲೆಗಳನ್ನು ನೋಡಿ ಮಹಿಳೆಯರ ಹೆಸರುಗಳು ಇಲ್ಲದಿರುವುದನ್ನು ಗಮನಿಸುತ್ತದೆ; ನೇರ ಲಿಂಗ ಮುಚ್ಚಿಟ್ಟಿದ್ದರೂ ಪರೋಕ್ಷ ಸುಳಿವುಗಳಿಂದ ಊಹಿಸುವ (ಪ್ರಾಕ್ಸಿ ವೇರಿಯೇಬಲ್‌ಗಳು ಅಥವಾ Proxy Variables) ಮೂಲಕ ಮಹಿಳೆಯರ ಅರ್ಜಿಗಳನ್ನು ತಿರಸ್ಕರಿಸುತ್ತದೆ. ಈ ತಪ್ಪುಗಳನ್ನು ಪುನರಾವರ್ತಿಸುವ ಹಾನಿಕಾರಕ ಸ್ವಯಂ-ಬಲವರ್ಧಕ ಚಕ್ರವು (ಫೀಡ್‌ಬ್ಯಾಕ್ ಲೂಪ್ ಅಥವಾ Self-reinforcing Feedback Loop) ತಾರತಮ್ಯವನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ.

ಕಂಪ್ಯೂಟರ್ ಅಲ್ಗಾರಿದಮ್‌ಗಳು ಆ ಪಕ್ಷಪಾತಿ ಕಡತಗಳಂತೆಯೇ ವರ್ತಿಸುತ್ತವೆ. ಅವು ಹಳೆಯ ಇತಿಹಾಸದ ದಾಖಲೆಗಳಲ್ಲಿರುವ ಪೂರ್ವಾಗ್ರಹಗಳನ್ನು ತಟಸ್ಥ ಸತ್ಯವೆಂದು ನಂಬಿ ನಕಲು ಮಾಡುತ್ತವೆ. ಕಂಪ್ಯೂಟರ್ ತಾನೇ ಸ್ವತಃ ದ್ವೇಷ ಮಾಡುವುದಿಲ್ಲ, ಆದರೆ ಸಮಾಜದ ಎಲ್ಲ ವರ್ಗಗಳ ಸಮತೋಲಿತ ಪ್ರಾತಿನಿಧ್ಯದ (ಸಮತೋಲಿತ ತರಬೇತಿ ದತ್ತಾಂಶ ಅಥವಾ Representative Data) ಕೊರತೆಯಿಂದಾಗಿ ಅನ್ಯಾಯವನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ.

ದೈನಂದಿನ ಜೀವನದಲ್ಲಿ ಅಲ್ಗಾರಿದಮ್ ಪಕ್ಷಪಾತವು ಯಾರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ?

ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳು ತೆಗೆದುಕೊಳ್ಳುವ ನಿರ್ಧಾರಗಳು ಇಂದು ಸಾಮಾನ್ಯ ಜನರ ಬದುಕಿನ ಮೇಲೆ ನೇರ ಪರಿಣಾಮ ಬೀರುತ್ತಿವೆ: ಸಾಲ ಮಂಜೂರಾತಿ, ನೌಕರಿ ಆಯ್ಕೆ ಮತ್ತು ಶಾಲಾ ಪ್ರವೇಶಗಳಲ್ಲೂ ಈ ವ್ಯವಸ್ಥೆಗಳು ಸಾಮಾನ್ಯ ಜನರ ಹಕ್ಕುಗಳನ್ನು ಕಸಿಯದಂತೆ ಎಚ್ಚರ ವಹಿಸಬೇಕಿದೆ.

• ಬ್ಯಾಂಕ್ ಸಾಲ ಮತ್ತು ಕ್ರೆಡಿಟ್ ಕಾರ್ಡ್ ಮಂಜೂರಾತಿ: ನಿರ್ದಿಷ್ಟ ಹಿಂದುಳಿದ ಬಡಾವಣೆಗಳು ಅಥವಾ ಗ್ರಾಮೀಣ ಭಾಗದ ಜನರಿಗೆ ಹಳೆಯ ದಾಖಲೆಗಳನ್ನು ಮುಂದಿಟ್ಟು ಸಾಲ ನೀಡಲು ಸಾಫ್ಟ್‌ವೇರ್ ನಿರಾಕರಿಸುವುದು.
• ಕಂಪನಿಗಳ ಉದ್ಯೋಗ ನೇಮಕಾತಿ ಪರೀಕ್ಷೆ: ಮಹಿಳೆಯರ ರೆಸ್ಯೂಮ್‌ಗಳಲ್ಲಿ ಹೆರಿಗೆ ರಜೆ ಅಥವಾ ಕೌಟುಂಬಿಕ ವಿರಾಮದ ವಿವರಗಳು ಕಂಡ ತಕ್ಷಣ ಕಂಪ್ಯೂಟರ್ ಅಂಕಗಳನ್ನು ಕಡಿತಗೊಳಿಸಿ ಅವರನ್ನು ತಿರಸ್ಕರಿಸುವುದು.
• ಆಸ್ಪತ್ರೆಗಳಲ್ಲಿ ಚಿಕಿತ್ಸಾ ಆದ್ಯತೆಯ ನಿರ್ಧಾರ: ರೋಗಿಗಳ ಹಿಂದಿನ ಖರ್ಚಿನ ಸಾಮರ್ಥ್ಯದ ಆಧಾರದ ಮೇಲೆ ಬಡ ರೋಗಿಗಳಿಗೆ ತುರ್ತು ಚಿಕಿತ್ಸೆಯ ಹಾಸಿಗೆಗಳನ್ನು ನೀಡದೆ ತಾರತಮ್ಯ ಮಾಡುವುದು.
• ಪೊಲೀಸ್ ಇಲಾಖೆಯ ಮುನ್ಸೂಚನಾ ಕಾವಲು: ಹಳೆಯ ದಾಖಲೆಗಳ ಆಧಾರದಲ್ಲಿ ಕೆಲವು ನಿರ್ದಿಷ್ಟ ಬಡಾವಣೆಗಳನ್ನು ಮಾತ್ರ ಅಪರಾಧ ಸೂಕ್ಷ್ಮ ಪ್ರದೇಶಗಳೆಂದು ತಪ್ಪಾಗಿ ಗುರುತಿಸಿ ನಿರಂತರ ತಪಾಸಣೆಯ ಕಿರುಕುಳ ನೀಡುವುದು.

ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಪ್ರಶ್ನಿಸಲು ನಾಗರಿಕರು ತಿಳಿಯಬೇಕಾದ ಹಕ್ಕುಗಳು

ಕಂಪ್ಯೂಟರ್ ತೀರ್ಮಾನ ನೀಡಿದೆ ಎಂದ ಮಾತ್ರಕ್ಕೆ ಅದು ನ್ಯಾಯಸಮ್ಮತವಾಗಿರಬೇಕಿಲ್ಲ. ಗುರುತು ಬದಲಾಯಿಸಿ ಸಮಾನತೆ ಪರೀಕ್ಷಿಸುವ ವಿಧಾನ (ಕೌಂಟರ್‌ಫ್ಯಾಕ್ಚುಯಲ್ ಆಡಿಟ್ ಅಥವಾ Counterfactual Audit) ಮತ್ತು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ನಿಯಂತ್ರಣದ ಕಾನೂನುಗಳು (ಎಐ ಆಕ್ಟ್ ಅಥವಾ AI Act) ಪಾರದರ್ಶಕತೆಗೆ ಆಗ್ರಹಿಸುತ್ತವೆ. ಯಾವುದೇ ಅನ್ಯಾಯವಾದಾಗ ಈ ಹಂತಗಳನ್ನು ಅನುಸರಿಸಿ:

• ತಿರಸ್ಕಾರಕ್ಕೆ ನಿಖರವಾದ ಲಿಖಿತ ಕಾರಣ ಕೇಳಿ: ಬ್ಯಾಂಕ್ ಸಾಲ ಅಥವಾ ನೌಕರಿಯ ಅರ್ಜಿ ತಿರಸ್ಕೃತಗೊಂಡಾಗ, 'ಕಂಪ್ಯೂಟರ್ ತಿರಸ್ಕರಿಸಿದೆ' ಎಂಬ ಉತ್ತರವನ್ನು ಒಪ್ಪದೆ, ಯಾವ ನಿಯಮದಡಿ ತಿರಸ್ಕರಿಸಲಾಗಿದೆ ಎಂದು ಲಿಖಿತ ವಿವರಣೆ ಕೇಳಿ.
• ಮಾನವ ಮರುಪರಿಶೀಲನೆಗೆ ಆಗ್ರಹಿಸಿ: ಯಾವುದೇ ಸ್ವಯಂಚಾಲಿತ ಅಲ್ಗಾರಿದಮ್‌ನ ನಿರ್ಧಾರದ ವಿರುದ್ಧ ಮನುಷ್ಯ ಅಧಿಕಾರಿಯೊಬ್ಬರು ಖುದ್ದಾಗಿ ಪರಿಶೀಲಿಸಬೇಕು ಎಂದು ಮೇಲ್ಮನವಿ ಸಲ್ಲಿಸುವ ಹಕ್ಕು ಪ್ರತಿಯೊಬ್ಬ ಗ್ರಾಹಕನಿಗಿರುತ್ತದೆ.
• ಡೇಟಾ ಪಾರದರ್ಶಕತೆಯ ಬಗ್ಗೆ ಜಾಗೃತಿ ಬೆಳೆಸಿಕೊಳ್ಳಿ: ಸಂಸ್ಥೆಗಳು ತೀರ್ಮಾನ ತೆಗೆದುಕೊಳ್ಳಲು ಯಾವ ಡೇಟಾವನ್ನು ಬಳಸುತ್ತಿವೆ ಮತ್ತು ಅದರಲ್ಲಿ ಪ್ರಾದೇಶಿಕ ವೈವಿಧ್ಯತೆ ಇದೆಯೇ ಎಂದು ನಾಗರಿಕ ಸಮಾಜ ಪ್ರಶ್ನಿಸಬೇಕು.

ಗಣಿತವು ಶಕ್ತಿಯುತ ಹೌದು, ಆದರೆ ಮಾನವೀಯ ನ್ಯಾಯ ಮತ್ತು ಸಮಾನತೆಯ ಮೌಲ್ಯಗಳು ಎಲ್ಲ ಗಣಿತ ಸೂತ್ರಗಳಿಗಿಂತ ಶ್ರೇಷ್ಠ. ಯಂತ್ರಗಳು ನೀಡುವ ತೀರ್ಪುಗಳನ್ನು ಪರೀಕ್ಷಿಸುವ ವಿವೇಕ ನಮ್ಮಲ್ಲಿದ್ದಾಗ ಮಾತ್ರ ತಂತ್ರಜ್ಞಾನವು ಎಲ್ಲರಿಗೂ ಸಮಾನ ಬದುಕನ್ನು ನೀಡಲು ಸಾಧ್ಯ.