AI ಸಾಮರ್ಥ್ಯ ಕುರಿತು ಸುರಕ್ಷತಾ ಚರ್ಚೆ: ಸಂಶೋಧಕರ ರಾಜೀನಾಮೆ, ಆತಂಕದ ಬೆನ್ನಲ್ಲೇ ಸ್ಪಷ್ಟನೆ

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಕ್ಷೇತ್ರದಲ್ಲಿ GPT-6 Astra ಸೇರಿದಂತೆ ಅತ್ಯಾಧುನಿಕ AI ಮಾದರಿಗಳ ಸಾಮರ್ಥ್ಯ ವೇಗವಾಗಿ ಹೆಚ್ಚುತ್ತಿರುವ ಬೆನ್ನಲ್ಲೇ, ಅವುಗಳ ಸುರಕ್ಷತೆ, ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಮಾನವ ನಿಯಂತ್ರಣದ ಕುರಿತು ಚರ್ಚೆ ಮತ್ತಷ್ಟು ತೀವ್ರಗೊಂಡಿದೆ. ಇದೇ ಸಂದರ್ಭದಲ್ಲಿ Anthropicನ ಸಂಶೋಧಕ ಜೇಕಬ್ ಕಾಕ್ಸನ್ ರಾಜೀನಾಮೆ ನೀಡಿರುವುದು ಗಮನ ಸೆಳೆದಿದೆ. ಮತ್ತೊಂದೆಡೆ, Astra ಕುರಿತು ಎದುರಾಗಿರುವ ಸುರಕ್ಷತಾ ಪ್ರಶ್ನೆಗಳಿಗೆ OpenAI ತನ್ನದೇ ವಿವರವಾದ ಸ್ಪಷ್ಟನೆ ನೀಡಿದೆ.

Anthropic ಹಾಗೂ OpenAI ಎರಡರಲ್ಲೂ ಕಳೆದ ಮೂರು ವರ್ಷಗಳ ಕಾಲ ಪ್ರೀ-ಟ್ರೈನಿಂಗ್ ಸಂಶೋಧನೆಯಲ್ಲಿ ಕೆಲಸ ಮಾಡಿದ್ದ ಜೇಕಬ್ ಕಾಕ್ಸನ್ ಸೆಪ್ಟೆಂಬರ್ 9ರಂದು Anthropic ತೊರೆಯುವುದಾಗಿ ಘೋಷಿಸಿದ್ದಾರೆ. AI ಸಂಸ್ಥೆಗಳು ಸ್ವಯಂ ಸುಧಾರಿಸಿಕೊಳ್ಳಬಲ್ಲ ಅತ್ಯಂತ ಶಕ್ತಿಶಾಲಿ ವ್ಯವಸ್ಥೆಗಳತ್ತ ವೇಗವಾಗಿ ಸಾಗುತ್ತಿದ್ದು, ಈ ಬೆಳವಣಿಗೆಯಲ್ಲಿ ಸುರಕ್ಷತೆಯ ಕುರಿತು ತಮ್ಮ ಆತಂಕವಿದೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ. ಅವರ ಹೇಳಿಕೆ ವೈಯಕ್ತಿಕ ಅಭಿಪ್ರಾಯವಾಗಿದ್ದು, ಅದನ್ನು ಸಂಪೂರ್ಣ AI ಉದ್ಯಮದ ಅಧಿಕೃತ ನಿಲುವು ಎಂದು ಪರಿಗಣಿಸಲಾಗದು.

Astra ಕುರಿತು OpenAIಯಿಂದ ಸ್ಪಷ್ಟನೆ : ಇದೇ ಚರ್ಚೆಯ ನಡುವೆ OpenAI ತನ್ನ GPT-6 Astra ಮಾದರಿಯ ಸುರಕ್ಷತೆ ಕುರಿತು ವಿವರವಾದ ಮಾಹಿತಿ ಬಿಡುಗಡೆ ಮಾಡಿದೆ. ಸಂಸ್ಥೆಯ ಪ್ರಕಾರ, Astra Preparedness Frameworkನ ‘Critical’ ಸೈಬರ್‌ಸುರಕ್ಷತಾ ಸಾಮರ್ಥ್ಯದ ಹಂತವನ್ನು ತಲುಪಿರುವ ಮೊದಲ ಮಾದರಿಯಾಗಿದೆ. ಸೂಕ್ತ ಸಾಧನಗಳು ಮತ್ತು ಪ್ರವೇಶ ದೊರೆತರೆ, ಮಾದರಿಯು ಹಿಂದೆ ಪತ್ತೆಯಾಗದ ಕೆಲವು ಸಾಫ್ಟ್‌ವೇರ್ ದೌರ್ಬಲ್ಯಗಳನ್ನು ಗುರುತಿಸಿ ಅವುಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳುವ ಮಾರ್ಗಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿದೆ ಎಂದು OpenAI ಹೇಳಿದೆ.

ಆದರೆ ಈ ಸಾಮರ್ಥ್ಯವನ್ನು ಗಮನದಲ್ಲಿಟ್ಟುಕೊಂಡೇ ಹೆಚ್ಚುವರಿ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿರುವುದಾಗಿ OpenAI ಸ್ಪಷ್ಟಪಡಿಸಿದೆ. ಆಂತರಿಕ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಕಟ್ಟುನಿಟ್ಟಿನ ಪ್ರತ್ಯೇಕೀಕರಣ, ಮಾದರಿ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳ ಎನ್‌ಕ್ರಿಪ್ಶನ್, ಸಂಪೂರ್ಣ ಕಾರ್ಯಾಚರಣೆಗಳ ಮೇಲ್ವಿಚಾರಣೆ, ಹೆಚ್ಚುವರಿ alignment ಪರೀಕ್ಷೆಗಳು ಹಾಗೂ ಅನಧಿಕೃತ ಚಟುವಟಿಕೆಗಳನ್ನು ತಡೆಯುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅಳವಡಿಸಲಾಗಿದೆ ಎಂದು ಸಂಸ್ಥೆ ತಿಳಿಸಿದೆ.

ಅತ್ಯಾಧುನಿಕ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಆರಂಭಿಕ ಹಂತದಲ್ಲಿ ಎಲ್ಲರಿಗೂ ಮುಕ್ತ ಪ್ರವೇಶ ನೀಡದೆ, ನಿರ್ದಿಷ್ಟ ಪರೀಕ್ಷಕರಿಗೆ ಮಾತ್ರ ಸೀಮಿತಗೊಳಿಸುವ ಕ್ರಮವನ್ನೂ OpenAI ಕೈಗೊಂಡಿದೆ. ಇದರ ಉದ್ದೇಶ AIಯ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ರಕ್ಷಣಾತ್ಮಕ ಹಾಗೂ ನಿಯಂತ್ರಿತ ರೀತಿಯಲ್ಲಿ ಪರೀಕ್ಷಿಸುವುದಾಗಿದೆ ಎಂದು ಸಂಸ್ಥೆ ಹೇಳಿದೆ.

OpenAIಯ ವಿಜ್ಞಾನಿಯೂ ಸುರಕ್ಷತೆಯ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆ : ಇನ್ನು OpenAI ಮುಖ್ಯ ವಿಜ್ಞಾನಿ Jakub Pachocki ಅವರು ಸೆಪ್ಟೆಂಬರ್ 6ರಂದು ಪ್ರಕಟಿಸಿದ ಲೇಖನದಲ್ಲೂ ಇದೇ ವಿಚಾರ ಪ್ರಮುಖವಾಗಿ ಮೂಡಿಬಂದಿದೆ. ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯ ಹೊಂದಿದ AI ಮಾದರಿಗಳೊಂದಿಗೆ ಅವುಗಳ reasoning ಪ್ರಕ್ರಿಯೆಯನ್ನು ಮಾನವರು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದು ಕ್ರಮೇಣ ಕಷ್ಟವಾಗುತ್ತಿದೆ ಎಂದು ಅವರು ವಿವರಿಸಿದ್ದಾರೆ.

Astra ಕುರಿತು ನಡೆಸಿದ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಹಿಂದಿನ ಮಾದರಿಗೆ ಹೋಲಿಸಿದರೆ ಅದರ chain-of-thought monitorability ಕಡಿಮೆಯಾಗಿರುವುದು ಕಂಡುಬಂದಿದೆ ಎಂದು OpenAI ಹೇಳಿದೆ. ಆದರೆ ಅದೇ ವೇಳೆ Astra ಒಟ್ಟಾರೆ ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ಪಾಲಿಸುವಲ್ಲಿ ಹಿಂದಿನ ಮಾದರಿಗಿಂತ ಉತ್ತಮವಾಗಿದೆ ಎಂಬ ಪರೀಕ್ಷಾ ಫಲಿತಾಂಶಗಳನ್ನೂ ಸಂಸ್ಥೆ ಪ್ರಕಟಿಸಿದೆ.

Pachocki ಅವರ ಪ್ರಕಾರ, AI ಅಭಿವೃದ್ಧಿಯ ವೇಗವನ್ನು ಕೇವಲ ಸಾಮರ್ಥ್ಯದ ಆಧಾರದ ಮೇಲೆ ನಿರ್ಧರಿಸದೆ, ಸುರಕ್ಷತೆಯ ಮೇಲಿನ ವಿಶ್ವಾಸದ ಮಟ್ಟಕ್ಕೆ ಅನುಗುಣವಾಗಿ ಅಭಿವೃದ್ಧಿಯನ್ನು ನಿಯಂತ್ರಿಸುವ ಅಗತ್ಯವಿದೆ. ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಪರಿಶೀಲಕರು, ಸರ್ಕಾರಗಳು ಅಥವಾ ಅಂತರರಾಷ್ಟ್ರೀಯ ಸಂಸ್ಥೆಗಳ ಮೂಲಕ ಭವಿಷ್ಯದಲ್ಲಿ ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳನ್ನು ರೂಪಿಸುವ ಅಗತ್ಯವಿದೆ ಎಂಬ ಅಭಿಪ್ರಾಯವನ್ನೂ ಅವರು ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ.

ಆತಂಕದ ಜೊತೆಗೆ ಅವಕಾಶಗಳೂ ಇವೆ: GPT-6 Astra ಕುರಿತು ಚರ್ಚೆ ಕೇವಲ ಅಪಾಯಗಳ ಸುತ್ತ ಮಾತ್ರ ಸೀಮಿತವಾಗಿಲ್ಲ. AI ಮಾದರಿಗಳು ಗಣಿತ, ಸಂಶೋಧನೆ, ಸಾಫ್ಟ್‌ವೇರ್, ಎಂಜಿನಿಯರಿಂಗ್ ಸೇರಿದಂತೆ ಹಲವು ಕ್ಷೇತ್ರಗಳಲ್ಲಿ ಸಂಕೀರ್ಣ ಕೆಲಸಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ವೇಗವಾಗಿ ಹೆಚ್ಚಿಸಿಕೊಳ್ಳುತ್ತಿವೆ. ಇತ್ತೀಚಿನ ಬೆಳವಣಿಗೆಗಳು AIಯ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಅದರ ಸುರಕ್ಷತೆಯನ್ನು ಒಟ್ಟಿಗೆ ಪರಿಗಣಿಸಬೇಕಾದ ಅಗತ್ಯವನ್ನು ಮತ್ತಷ್ಟು ಸ್ಪಷ್ಟಪಡಿಸಿವೆ.

ಹೀಗಾಗಿ ಜೇಕಬ್ ಕಾಕ್ಸನ್ ಅವರ ರಾಜೀನಾಮೆ AI ಅಭಿವೃದ್ಧಿಯ ಬಗ್ಗೆ ವೈಯಕ್ತಿಕ ಎಚ್ಚರಿಕೆಯನ್ನು ಮುನ್ನೆಲೆಗೆ ತಂದಿದ್ದರೆ, OpenAIಯ ಇತ್ತೀಚಿನ ಸ್ಪಷ್ಟನೆಗಳು ಅಪಾಯಗಳ ಅರಿವಿನ ಜೊತೆಗೆ ಅವುಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನೂ ಸಂಸ್ಥೆ ಕೈಗೊಳ್ಳುತ್ತಿದೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತವೆ.

AI ಕ್ಷೇತ್ರದ ಮುಂದಿನ ಹಂತದಲ್ಲಿ ಪ್ರಶ್ನೆ ಕೇವಲ “AI ಎಷ್ಟು ಶಕ್ತಿಶಾಲಿಯಾಗಲಿದೆ?” ಎಂಬುದಲ್ಲ, ಅದೇ ಸಮಯದಲ್ಲಿ “ಅಷ್ಟು ಶಕ್ತಿಶಾಲಿಯಾದ AI ಅನ್ನು ಎಷ್ಟು ಸುರಕ್ಷಿತವಾಗಿ ಮತ್ತು ಮಾನವ ನಿಯಂತ್ರಣದಲ್ಲಿ ಇಡಬಹುದು?” ಎಂಬುದೂ ಪ್ರಮುಖವಾಗಲಿದೆ.

ಪ್ರತಿ ಹೊಸ ಅಪ್‌ಡೇಟ್‌ಗಾಗಿ ಇಲ್ಲಿ ಕ್ಲಿಕ್ ಮಾಡಿರಿ 👉 ಇಂದಿನ ಪ್ರಮುಖ ಲೈವ್ ಅಪ್‌ಡೇಟ್‌ಗಳನ್ನು ‘ಸಂಯುಕ್ತ ಕರ್ನಾಟಕ’ ಜಾಲತಾಣದಲ್ಲಿ ನಿರಂತರವಾಗಿ ಓದಿರಿ.