ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ಸಿದ್ಧಾಂತಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಯಗೊಳಿಸಿ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ
ಈ ಮುಕ್ತಾಯ-ದಿಂದ ಮುಕ್ತಾಯ (E2E) ಮಾದರಿ "ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AIಗೆ ಕೇಂದ್ರೀಯಗೊಳಿಸಿ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / 3.5 ಮಾದರಿಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ" ಎಂಬ ಮಾರ್ಗದರ್ಶನದ ಆಧಾರಿತವಾಗಿದೆ, ಇದು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಟೆಕ್ ಸಮುದಾಯದಿಂದ ಬಂದಿದೆ.
ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯ ಭದ್ರತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಹೇಗೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡಬಹುದು?
ಮಾದರಿಯನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುವುದು ಕೆಲವೊಮ್ಮೆ ಅನಿರೀಕ್ಷಿತ ಅಥವಾ ಅಪೇಕ್ಷಿತವಲ್ಲದ ಪ್ರತಿಕ್ರಿಯೆಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು. ಮಾದರಿ ಸುರಕ್ಷിത ಮತ್ತು ಪರಿಣಾಮಕಾರಿಯಾಗಿಯೇ ಇರುವುದನ್ನು ಖಚಿತಪಡಿಸಲು, ಮಾದರಿ ಹಾನಿಕರ ವಿಷಯವನ್ನು ಸೃಷ್ಟಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಮತ್ತು ನಿಖರ, ಸಂಬಂಧಿತ ಹಾಗೂ ಸಾಂಯೋಜಕ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಮಹತ್ತರ. ಈ ಪಾಠದಲ್ಲಿ, ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯೊಂದಿಗೆ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಆಗಿ ಐಕ್ಯಗೊಳ್ಳಲಾದ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯ ಭದ್ರತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದನ್ನು ಕಲಿಯುವಿರಿ.
ಇದು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯ ಮೌಲ್ಯಮಾಪನ ಪ್ರಕ್ರಿಯೆಯ ಸರಣಿಯು.
ಚಿತ್ರ ಮೂಲ: Evaluation of generative AI applications
Note
ಫೈ-3 / ಫೈ-3.5 ಬಗ್ಗೆ ಹೆಚ್ಚಿನ ವಿವರಗಳಿಗೆ ಮತ್ತು ಹೆಚ್ಚುವರಿ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಹುಡುಕಲು, ದಯವಿಟ್ಟು Phi-3CookBook ಅನ್ನು ಭೇಟಿ ಮಾಡಿ.
- Python
- Azure ಸಬ್ಸ್ಕ್ರಿಪ್ಷನ್
- Visual Studio Code
- ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿ
-
ಘಟನೆ 1: ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಮೌಲ್ಯಮಾಪನಕ್ಕೆ ಪರಿಚಯ
-
ಘಟನೆ 2: ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು
ನಿಮ್ಮ AI ಮಾದರಿಯು ನೈತಿಕವಾಗಿ ಮತ್ತು ಸುರಕ್ಷಿತವಾಗಿರುವುದು ಖಚಿತಪಡಿಸಲು, ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ಸಿದ್ಧಾಂತಗಳ ವಿರುದ್ಧ ಅದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಅತ್ಯಾವಶ್ಯಕ. ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ, ಭದ್ರತೆ ಮೌಲ್ಯಮಾಪನ ನಿಮ್ಮ ಮಾದರಿಯ ಜೈಲು ದಾಳಿ ವ್ಯಾಪ್ತಿಗೆ ಮತ್ತು ಹಾನಿಕರ ವಿಷಯ ಉತ್ಪಾದಿಸುವ ಸಾಮಥ್ರ್ಯವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಅವಕಾಶ ನೀಡುತ್ತದೆ, ಇದು ನೇರವಾಗಿ ಈ ಸಿದ್ಧಾಂತಗಳಿಗೆ ಹೊಂದಿಕೆ ಹೊಂದಿದೆ.
ಚಿತ್ರ ಮೂಲ: Evaluation of generative AI applications
ತಾಂತ್ರಿಕ ಹಂತಗಳನ್ನು ಪ್ರಾರಂಭಿಸುವ ಮೊದಲು, ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ಸಿದ್ಧಾಂತಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವುದು ಮಹತ್ವದಾಗಿದೆ, ಇದು AI ವ್ಯವಸ್ಥೆಗಳ ಜವಾಬ್ದಾರಿಯುತ ಅಭಿವೃದ್ಧಿ, ನಿಯೋಜನೆ ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಗಾಗಿ ಮಾರ್ಗದರ್ಶನ ನೀಡುವ ನೈತಿಕ ನೆಲೆಯಾಗಿದೆ. ಈ ಸಿದ್ಧಾಂತಗಳು AI ತಂತ್ರಜ್ಞಾನಗಳನ್ನು ನ್ಯಾಯ, ಪಾರದರ್ಶಕತೆ ಮತ್ತು ಸಮಾವೇಶತೆಯ ಇಂದ ನಿರ್ಮಿಸುವುದನ್ನು ಖಚಿತಪಡಿಸಬೇಕೆಂದು ಮಾರ್ಗದರ್ಶನ ನೀಡುತ್ತವೆ. ಇವು AI ಮಾದರಿಗಳ ಭದ್ರತೆ ಮೌಲ್ಯಮಾಪನಕ್ಕೆ ಆಧಾರವಾಗಿವೆ.
ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ಸಿದ್ಧಾಂತಗಳು ಒಳಗೊಂಡಿವೆ:
-
ನ್ಯಾಯ ಮತ್ತು ಸಮಾವೇಶತೆ: AI ವ್ಯವಸ್ಥೆಗಳು ಎಲ್ಲರಿಗೂ ನ್ಯಾಯವಾಗಿ ಕೆಲವುಿದ್ದು, ಸಬಂಧಿತ ಗುಂಪುಗಳಿಗೆ ಭಿನ್ನ ರೀತಿಯಲ್ಲಿ ಪರಿಣಾಮ ಬೀರಬಾರದು. ಉದಾಹರಣೆಗೆ, ವೈದ್ಯಕೀಯ ಚಿಕಿತ್ಸೆ, ಸಾಲ ಅರ್ಜಿಗಳು ಅಥವಾ ಉದ್ಯೋಗದ ಸಲಹೆಗಳ ಸಂದರ್ಭದಲ್ಲಿ, AI ವ್ಯವಸ್ಥೆಗಳು ಶಕ್ತಿಯುತ ಲಕ್ಷಣಗಳನ್ನು ಹೊಂದಿರುವ ಪ್ರತಿಯೊಬ್ಬರಿಗೂ ಸಮಾನ ಸಲಹೆಗಳನ್ನು ನೀಡಬೇಕು.
-
ವೇದಿಕೆಯತೆ ಮತ್ತು ಭದ್ರತೆ: ನಂಬಿಕೆ ನಿರ್ಮಿಸಲು, AI ವ್ಯವಸ್ಥೆಗಳು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ, ಸುರಕ್ಷಿತವಾಗಿ ಮತ್ತು ಸತತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಬೇಕು. ಆ ವ್ಯವಸ್ಥೆಗಳು ಮೂಲ ವಿನ್ಯಾಸದಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು, ನಿರೀಕ್ಷಿತವಲ್ಲದ ಪರಿಸ್ಥಿತಿಗಳಿಗೆ ಸುರಕ್ಷಿತವಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಮತ್ತು ಹಾನಿಕರವಾದ ನಿಯಂತ್ರಣದಿಂದ ಎದುರಿಸಲು ಸಮರ್ಥವಾಗಿರಬೇಕು. ಅವು ಹೇಗೆ ವರ್ತಿಸುತ್ತವೆಯೋ ಮತ್ತು ನಿರೀಕ್ಷಿತ ಪರಿಸ್ಥಿತಿಗಳ ವ್ಯಾಪ್ತಿಯ ಮೂಲಕ ಅವು ಹೇಗೆ ನಿರ್ವಹಿಸುತ್ತವೆಯೋ ಅವರು ವಿನ್ಯಾಸ ಮತ್ತು ಪರೀಕ್ಷೆ ಸಂದರ್ಭದಲ್ಲಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಆವೃತ್ತಿಗಳು ಪ್ರತಿಬಿಂಬಿಸುತ್ತವೆ.
-
ಪಾರದರ್ಶಕತೆ: AI ವ್ಯವಸ್ಥೆಗಳು ಜನರ ಜೀವನದ ಮೇಲೆ ಮಹತ್ತರ ಪರಿಣಾಮ ಬೀರುವ ನಿರ್ಣಯಗಳನ್ನು ಸಹಾಯ ಮಾಡುವಾಗ, ಆ ನಿರ್ಣಯಗಳು ಹೇಗೆ ಮಾಡಲ್ಪಟ್ಟವು ಎಂಬುದನ್ನು ಜನರಿಗೆ ಅರ್ಥವಾಗಲಿ ಎಂಬುದು ಮಹತ್ವದ್ದು. ಉದಾಹರಣೆಗೆ, ಬ್ಯಾಂಕ್ ಒಂದು ವ್ಯಕ್ತಿಯ ಕ್ರೆಡಿಟ್ ಅರ್ಹತೆಯನ್ನು ನಿರ್ಧರಿಸಲು AI ವ್ಯವಸ್ಥೆ ಬಳಸಬಹುದು. ಕಂಪನಿಗಳು ಅತ್ಯಂತ ಅರ್ಹ ಅಭ್ಯರ್ಥಿಗಳನ್ನು ನೇಮಕ ಮಾಡಲು AI ಬಳಸಿ ನಿರ್ಧರಿಸಬಹುದು.
-
ಗೌಪ್ಯತೆ ಮತ್ತು ಭದ್ರತೆ: AI ಹೆಚ್ಚಾಗುತ್ತಿರುವಂತೆ, ಗೌಪ್ಯತೆ ಮತ್ತು ವೈಯಕ್ತಿಕ ಮತ್ತು ವ್ಯಾಪಾರ ಮಾಹಿತಿಯ ಭದ್ರತೆ ಈಗ ಹೆಚ್ಚಿನ ಮಹತ್ವ ಮತ್ತು ಸಂಕೀರ್ಣತೆ ಪಡೆಯುತ್ತಿದೆ. AI ಮೂಲಕ, ಗೌಪ್ಯತೆ ಮತ್ತು ಡೇಟಾ ಭದ್ರತೆಗಳಿಗೆ ಹೆಚ್ಚಿನ ಗಮನ ಅಗತ್ಯ, ಏಕೆಂದರೆ ಡೇಟಾ ಪ್ರವೇಶ AI ವ್ಯವಸ್ಥೆಗಳಿಗೆ ನಿಖರ ಮತ್ತು ಮಾಹಿತಿ ಆಧಾರಿತ ಭವಿಷ್ಯ ನಿರೀಕ್ಷಣೆ ಮತ್ತು ನಿರ್ಣಯ ಮಾಡಲು ಅತ್ಯಾವಶ್ಯಕ.
-
ಭಾರ ಮತ್ತು ಹೊಣೆಮಾಡಿಕೊಡುತೆ: AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವ ಮತ್ತು ನಿಯೋಜಿಸುವ ಜನರು ತಮ್ಮ ವ್ಯವಸ್ಥೆಗಳ ಕಾರ್ಯಾಚರಣೆಗೆ ಹೊಣೆ ಬಾಧರಾಗಿರಬೇಕು. ಸಂಸ್ಥೆಗಳು ಕೈಗಾರಿಕಾ ಮಾನದಂಡಗಳನ್ನನುಮೋದಿಸಿ ಹೊಣೆಮಾಡಿಕೊಡುವ ನಿಯಮಗಳನ್ನು ಅಭಿವೃದ್ಧಿ ಮಾಡಬೇಕು. ಈ ನಿಯಮಗಳು AI ವ್ಯವಸ್ಥೆಗಳು ಜನರ ಜೀವನದ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುವ ಯಾವುದೇ ನಿರ್ಣಯದ ಅಂತಿಮ ಅಧಿಕಾರಿಯಾಗದಂತೆ ಖಚಿತಪಡಿಸುತ್ತವೆ. ಮತ್ತೆಯು ಮಾನವರು ಹೆಚ್ಚು ಸ್ವಾಯತ್ತ அமைತ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ನಿಯಂತ್ರಿಸುತ್ತಿರುವಂತೆ ಖಚಿತಪಡಿಸುತ್ತದೆ.
ಚಿತ್ರ ಮೂಲ: What is Responsible AI?
Note
ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ಸಿದ್ಧಾಂತಗಳ ಬಗ್ಗೆ ಹೆಚ್ಚಿನ ಮಾಹಿತಿಗಾಗಿ, What is Responsible AI? ಭೇಟಿ ಮಾಡಿ.
ಈ ಪಾಠದಲ್ಲಿ, ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯ ಭದ್ರತೆ ಮೇಟ್ರಿಕ್ಸ್ ಬಳಸಿ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 ಮಾದರಿಯ ಭದ್ರತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತೀರಿ. ಈ ಮೇಟ್ರಿಕ್ಸ್ ನಿಮ್ಮ ಮಾದರಿಯ ಹಾನಿಕರ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆ ಮತ್ತು ಜೈಲು ದಾಳಿಗೆ ಅದು ಹೇಗೆ ಅನಿಸಿಕೊಳ್ಳಬಹುದು ಎಂಬುದನ್ನು ಅಳೆಯುತ್ತದೆ. ಭದ್ರತೆ ಮೇಟ್ರಿಕ್ಸ್ ಒಳಗೊಂಡಿವೆ:
- ಸ್ವಯಂಹೀನತೆ ಸಂಬಂಧಿತ ವಿಷಯ: ಮಾದರಿ ಸ್ವಯಂಹೀನತೆ ಸಂಬಂಧಿತ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ.
- ದ್ವೇಷ ಮತ್ತು ಅನ್ಯಾಯ ವಿಷಯ: ಮಾದರಿ ದ್ವೇಷ ಅಥವಾ ಅನ್ಯಾಯ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ.
- ಹಿಂಸಾತ್ಮಕ ವಿಷಯ: ಮಾದರಿ ಹಿಂಸಾತ್ಮಕ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ.
- ಲೈಂಗಿಕ ವಿಷಯ: ಮಾದರಿ ಅಶ್ಲೀಲ ಲೈಂಗಿಕ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ.
ಈ ಅಂಶಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದರಿಂದ AI ಮಾದರಿ ಹಾನಿಕರ ಅಥವಾ ಆಪತ್ಯಕಾರಿ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸದಂತೆ ಖಚಿತಪಡಿಸುವುದು, ಸಾಮಾಜಿಕ ಮೌಲ್ಯಗಳು ಮತ್ತು ನಿಯಮಕ ಸರಣಿಗಳೊಂದಿಗೆ ಹೊಂದಿಕೊಳ್ಳುವಂತೆ ಮಾಡುತ್ತದೆ.
ನಿಮ್ಮ AI ಮಾದರಿ ನಿರೀಕ್ಷೆಯಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಎಂದು ಖಚಿತಪಡಿಸಲು, ಅದನ್ನು ಕಾರ್ಯಕ್ಷಮತೆ ಮೇಟ್ರಿಕ್ಸ್ ವಿರುದ್ಧ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಅಗತ್ಯ. ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ, ಕಾರ್ಯಕ್ಷಮತೆ ಮೌಲ್ಯಮಾಪನಗಳು ನಿಮ್ಮ ಮಾದರಿಯ ನಿಖರ, ಸಂಬಂಧಿತ ಹಾಗೂ ಸಾಂಕೇತಿಕ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಪರಿಣಾಮಕಾರಿತ್ವವನ್ನು ಅಳೆಯಲು ಅವಕಾಶ ನೀಡುತ್ತವೆ.
ಚಿತ್ರ ಮೂಲ: Evaluation of generative AI applications
ಈ ಪಾಠದಲ್ಲಿ, ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯ ಕಾರ್ಯಕ್ಷಮತೆ ಮೇಟ್ರಿಕ್ಸ್ ಬಳಸಿ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತೀರಿ. ಈ ಮೇಟ್ರಿಕ್ಸ್ ಮಾದರಿ ನಿಖರ, ಸಂಬಂಧಿತ ಹಾಗೂ ಸಾಂಕೇತಿಕ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಪರಿಣಾಮಕಾರಿತ್ವವನ್ನು ಅಳೆಯಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ. ಕಾರ್ಯಕ್ಷಮತೆ ಮೇಟ್ರಿಕ್ಸ್ ಒಳಗೊಂಡಿವೆ:
- ಯಥಾರ್ಥತೆ: ಉತ್ಪಾದಿತ ಉತ್ತರಗಳು ಮೂಲ ಮಾಹಿತಿ ಮೂಲದೊಂದಿಗೆ ಎಷ್ಟು ಹೊಂದಿಕೆಯಾಗಿವೆ ಎಂದು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ.
- ಸಂಬಂಧಿತತೆ: ನೀಡಲಾದ ಪ್ರಶ್ನೆಗಳ ಪ್ರತಿಕ್ರಿಯೆಗಳ ಪಕ್ಕದತೆಯನ್ನು ಅಳೆಯುತ್ತದೆ.
- ಸಾಂಕೇತಿಕತೆ: ಉತ್ಪಾದಿತ ಪಠ್ಯವು ಹೇಗೆ ಸೌಂದರ್ಯಪೂರ್ವಕವಾಗಿ ಹರಿದಿದೆ, ಸಹಜವಾಗಿ ಓದುತ್ತದೆ ಮತ್ತು ಮಾನವ ಸಮಾನ ಭಾಷೆಗೆ ಹೋಲುತ್ತದೆ ಎಂಬುದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ.
- ಪ್ರವಾಹಿತತೆ: ಉತ್ಪಾದಿತ ಪಠ್ಯದ ಭಾಷಾ ಪ್ರಾವಿಣ್ಯತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ.
- GPT ಸಮಾನತೆ: ಉತ್ಪಾದಿತ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನೆಲ ಸತ್ಯದೊಂದಿಗೆ ಹೋಲಿಸಿ ಸಾಮಾನ್ಯತೆ ಅಳೆಯುತ್ತದೆ.
- F1 ಅಂಕಗಳು: ಉತ್ಪಾದಿತ ಪ್ರತಿಕ್ರಿಯೆ ಮತ್ತು ಮೂಲ ಡೇಟಾ ನಡುವೆ ಹಂಚుకొಂಡ ಪದಗಳ ಅನುಪಾತವನ್ನು ಲೆಕ್ಕಹಾಕುತ್ತದೆ.
ಈ ಮೇಟ್ರಿಕ್ಸ್ನ ಸಹಾಯದಿಂದ ನೀವು ಮಾದರಿಯ ನಿಖರ, ಸಂಬಂಧಿತ ಹಾಗೂ ಸಾಂಕೇತಿಕ ಪ್ರತಿಕ್ರಿಯೆಗಳ ಉತ್ಪಾದನೆಯ ಪರಿಣಾಮಕಾರಿತ್ವವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಬಹುದು.
ಈ ಪಾಠವು ಹಳೆಯ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ಗಳ "ಫೈನ್-ಟ್ಯೂನ್ ಮತ್ತು ಕಸ್ಟಮ್ ಫೈ-3 ಮಾದರಿಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಜೊತೆಗೆ ಏಕೀಕರಿಸಿ: ಹಂತ-ಹಂತ ಮಾರ್ಗದರ್ಶನ" ಮತ್ತು "ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಮೂಲಕ ಕಸ್ಟಮ್ ಫೈ-3 ಮಾದರಿಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮತ್ತು ಏಕೀಕರಣ" ಎಂಬ ಪೋಸ್ಟ್ಗಳ ಮುಂದುವರಿದ ಭಾಗವಾಗಿದೆ. ಆ ಪೋಸ್ಟ್ಗಳಲ್ಲಿ ನಾವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುವ ಪ್ರಕ್ರಿಯೆ ಮತ್ತು ಅದನ್ನು ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋಗೆ ಏಕೀಕರಿಸುವ ವಿಧಾನವನ್ನು ವಿವರಿಸಿದ್ದೇವೆ.
ಈ ಪಾಠದಲ್ಲಿ, ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಮೌಲ್ಯಮಾಪಕನಾಗಿ ಅಝೂರ್ ಓಪನ್ಏಐ ಮಾದರಿಯನ್ನು ನಿಯೋಜಿಸಿ, ನಿಮ್ಮ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಅದನ್ನು ಬಳಸುವಿರಿ.
ಈ ಪಾಠವನ್ನು ಪ್ರಾರಂಭಿಸುವ ಮುನ್ನ, ಹಿಂದಿನ ಪಾಠಗಳಲ್ಲಿ ವಿವರಿಸಿದಂತೆ ನೀವು ಕೆಳಗಿನ ಪೂರ್ವಾಪೇಕ್ಷಿತಗಳನ್ನು ಹೊಂದಿರಬೇಕು:
- ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಸಿದ್ಧಪಡಿಸಿದ ಡೇಟಾಸೆಟ್.
- ಫೈನ್ಲ್-ಟ್ಯೂನ್ಡ್ ಆಗಿ ಅಝೂರ್ ಯಂತ್ರ ಶಿಕ್ಷಣಕ್ಕೆ ನಿಯೋಜಿಸಲಾದ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿ.
- ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ನಿಮ್ಮ ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಗಳೊಂದಿಗೆ ಏಕೀಕೃತ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ.
Note
ನೀವು ಹಿಂದಿನ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ಗಳಿಂದ ಡೌನ್ಲೋಡ್ ಮಾಡಲಾದ ULTRACHAT_200k ಡೇಟಾಸೆಟ್ನ ಡೇಟಾ ಫೋಲ್ಡರ್ನಲ್ಲಿರುವ test_data.jsonl ಫೈಲ್ ಅನ್ನು ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಉಪಯೋಗಿಸುತ್ತೀರಿ.
ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋಗೆ ಕಸ್ಟಂ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಏಕೀಕರಿಸುವುದು(ಮೊದಲು ಕೋಡ್ ವಿಧಾನ)
Note
ನೀವು "ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಜೊತೆಗೆ ಕಸ್ಟಂ ಫೈ-3 ಮಾದರಿಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮತ್ತು ಏಕೀಕರಿಸಿ"ನಲ್ಲಿಯ ಲೋ-ಕೋಡ್ ವಿಧಾನವನ್ನು ಅನುಸರಿಸುತ್ತಿದ್ದರೆ, ನೀವು ಈ ವ್ಯಾಯಾಮವನ್ನು ಬಿಟ್ಟು ಮುಂದಿನದಕ್ಕೆ ಹೋಗಬಹುದು. ಆದರೆ, ನೀವು "ಫೈನ್-ಟ್ಯೂನ್ ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಜೊತೆಗೆ ಕಸ್ಟಮ್ ಫೈ-3 ಮಾದರಿಗಳನ್ನು ಏಕೀಕರಿಸುವ ಹಂತ-ಹಂತ ಮಾರ್ಗದರ್ಶನ"ನಲ್ಲಿ ವಿವರಿಸಿದ ಕೋಡ್-ಫಸ್ಟ್ ಹಾದಿಯನ್ನು ಅನುಸರಿಸಿದರೆ, ನಿಮ್ಮ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮತ್ತು ನಿಯೋಜಿಸುವ ಪ್ರಕ್ರಿಯೆ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋಗೆ ಸಂಪರ್ಕಿಸುವದು ಸ್ವಲ್ಪ ವಿಭಿನ್ನವಾಗಿರುತ್ತದೆ. ನೀವು ಈ ವ್ಯಾಯಾಮದಲ್ಲಿ ಈ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಕಲಿಯುವಿರಿ.
ಮುಂದುವರೆಯಲು, ನೀವು ಫೈನ್-ಟ್ಯೂನ್ಡ್ ಫೈ-3 / ಫೈ-3.5 ಮಾದರಿಯನ್ನು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋಗೆ ಏಕೀಕರಿಸಬೇಕು.
ಪ್ರಾಜೆಕ್ಟ್ ರಚಿಸುವ ಮೊದಲು ನೀವು ಹಬ್ಬನ್ನು ರಚಿಸಬೇಕು. ಹಬ್ ಒಂದು ಸಂಪನ್ಮೂಲ ಗುಂಪು ಹೋಲುವಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸಿ, ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಅನೇಕ ಪ್ರಾಜೆಕ್ಟ್ಗಳನ್ನು ಸಂಘಟಿಸಲು ಮತ್ತು ನಿರ್ವಹಿಸಲು ಅವಕಾಶ ನೀಡುತ್ತದೆ.
-
Microsoft Foundry ನಲ್ಲಿ ಸೈನ್ ಇನ್ ಮಾಡಿ.
-
ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ಎಲ್ಲಾ ಹಬ್ಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ + ಹೊಸ ಹಬ್ ಆಯ್ಕೆಮಾಡಿ.
-
ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- ಹಬ್ ಹೆಸರು ನುಡಿಸಿ. ಅದು ಅನನ್ಯ ಮೌಲ್ಯವಾಗಿರಬೇಕು.
- ನಿಮ್ಮ ಅಜೂರ್ ಚಂದಾದಾರಿಕೆ ಆಯ್ಕೆಮಾಡಿ.
- ಬಳಸಲು ಬೇಕಾದ ಸಂಪನ್ಮೂಲ ಗುಂಪನ್ನು ಆಯ್ಕೆಮಾಡಿ (ಬೇಕಾದರೆ ಹೊಸದು ರಚಿಸಿ).
- ನೀವು ಬಳಸಬೇಕಾದ ಸ್ಥಳವನ್ನು ಆಯ್ಕೆಮಾಡಿ.
- ಬಳಸಬೇಕಾದ ಅಜೂರ್ AI ಸೇವೆಗಳನ್ನು ಸಂಪರ್ಕಿಸಿ ಆಯ್ಕೆಮಾಡಿ (ಬೇಕಾದರೆ ಹೊಸದು ರಚಿಸಿ).
- ಅಜೂರ್ AI ಶೋಧನೆ ಸಂಪರ್ಕಿಕೆಯನ್ನು ಸಂಪರ್ಕಿಸಲು ಬಿಟ್ಟುಬಿಡಿ ಎಂದು ಆಯ್ಕೆಮಾಡಿ.
-
ಮುಂದೆ ಆಯ್ಕೆಮಾಡಿ.
-
ನೀವು ರಚಿಸಿದ ಹಬ್ನಲ್ಲಿ, ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ಎಲ್ಲಾ ಪ್ರಾಜೆಕ್ಟ್ಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ + ಹೊಸ ಪ್ರಾಜೆಕ್ಟ್ ಆಯ್ಕೆಮಾಡಿ.
-
ಪ್ರಾಜೆಕ್ಟ್ ಹೆಸರು ನಮೂದಿಸಿ. ಅದು ಅನನ್ಯವಾದ ಮೌಲ್ಯವಾಗಿರಬೇಕು.
-
ಪ್ರಾಜೆಕ್ಟ್ ರಚಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
ನಿಮ್ಮ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು Prompt flow ಗೆ ಸೇರಿಸಲು, ನೀವು ಮಾದರಿಯ ಎಂಡ್ಪಾಯಿಂಟ್ ಮತ್ತು ಕೀ ಅನ್ನು ಕಸ್ಟಮ್ ಸಂಪರ್ಕದಲ್ಲಿ ಉಳಿಸಬೇಕಾಗುತ್ತದೆ. ಈ ಸಜ್ಜು ನಿಮ್ಮ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಗೆ Prompt flow ನಲ್ಲಿ ಪ್ರವೇಸವನ್ನು ಖಚಿತಗೊಳಿಸುತ್ತದೆ.
-
Azure ML Studio ಗೆ ಭೇಟಿ ನೀಡಿ.
-
ನೀವು ರಚಿಸಿದ ಅಜೂರ್ ಯಂತ್ರ ಅಧ್ಯಯನ ವರ್ಕ್ಸ್ಪೇಸ್ಗೆ ಮರಳಿ ಹೋಗಿ.
-
ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ಎಂಡ್ಪಾಯಿಂಟ್ಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
ನೀವು ರಚಿಸಿದ ಎಂಡ್ಪಾಯಿಂಟ್ ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಲ್ಲಿ ಬಳಸು ಆಯ್ಕೆಮಾಡಿ.
-
ನಿಮ್ಮ REST ಎಂಡ್ಪಾಯಿಂಟ್ ಮತ್ತು ಪ್ರಾಥಮಿಕ ಕೀ ನಕಲಿಸಿ.
-
Microsoft Foundry ಗೆ ಭೇಟಿ ನೀಡಿ.
-
ನೀವು ರಚಿಸಿದ Microsoft Foundry ಪ್ರಾಜೆಕ್ಟ್ಗೆ ಹೋಗಿ.
-
ನೀವು ರಚಿಸಿದ ಪ್ರಾಜೆಕ್ಟ್ನಲ್ಲಿ, ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ಸೆಟ್ಟಿಂಗ್ಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
+ ಹೊಸ ಸಂಪರ್ಕ ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ ಕಸ್ಟಮ್ ಕೀಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- + ಕೀ-ಮೌಲ್ಯ ಜೋಡಿಗಳನ್ನು ಸೇರಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
- ಕೀ ಹೆಸರಿಗಾಗಿ ಎಂಡ್ಪಾಯಿಂಟ್ ನಮೂದಿಸಿ ಮತ್ತು ಮೌಲ್ಯ ಕ್ಷೇತ್ರದಲ್ಲಿ Azure ML Studio ನಿಂದ ನಕಲಿಸಿದ ಎಂಡ್ಪಾಯಿಂಟ್ ಅನ್ನು ಪೇಸ್ಟ್ ಮಾಡಿ.
- ಮತ್ತೆ + ಕೀ-ಮೌಲ್ಯ ಜೋಡಿಗಳನ್ನು ಸೇರಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
- ಕೀ ಹೆಸರಿಗಾಗಿ ಕೀ ನಮೂದಿಸಿ ಮತ್ತು ಮೌಲ್ಯ ಕ್ಷೇತ್ರದಲ್ಲಿ Azure ML Studio ನಿಂದ ನಕಲಿಸಿದ ಕೀ ಅನ್ನು ಪೇಸ್ಟ್ ಮಾಡಿ.
- ಕೀಗಳನ್ನು ಸೇರಿಸಿದ ನಂತರ, ಕೀ ಬಹಿರಂಗವಾಗದಂತೆ ಗೌಪ್ಯವೆಂದು ಗುರುತಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
-
ಸಂಪರ್ಕವನ್ನು ಸೇರಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
ನೀವು Microsoft Foundry ನಲ್ಲಿ ಕಸ್ಟಮ್ ಸಂಪರ್ಕ ಸೇರಿಸಿದ್ದೀರಿ. ಅಲ್ಲಿ, ಕೆಳಗಿನ ಹಂತಗಳನ್ನು ಬಳಸಿ Prompt flow ರಚಿಸೋಣ. ನಂತರ, ನೀವು ಈ Prompt flow ಅನ್ನು ಕಸ್ಟಮ್ ಸಂಪರ್ಕದೊಂದಿಗೆ ಸಂಪರ್ಕಿಸಿ ಫೈನ್-ಟೂನ್ ಮಾಡಿದ ಮಾದರಿಯನ್ನು Prompt flow ನಲ್ಲಿ ಬಳಸಬಹುದು.
-
ನೀವು ರಚಿಸಿದ Microsoft Foundry ಪ್ರಾಜೆಕ್ಟ್ಗೆ ಹೋಗಿ.
-
ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ Prompt flow ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ + ರಚಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ ಚಾಟ್ ಫ್ಲೋ ಆಯ್ಕೆಮಾಡಿ.
-
ಬಳಸಬೇಕಾದ ಫೋಲ್ಡರ್ ಹೆಸರು ನಮೂದಿಸಿ.
-
ರಚಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
ನೀವು ಫೈನ್-ಟೂನ್ ಮಾಡಿದ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು Prompt flow ಗೆ ಸಂಯೋಜಿಸಬೇಕಾಗಿದೆ. ಆದರೆ, ಈಗಿರುವ Prompt flow ಈ ಉದ್ದೇಶಕ್ಕೆ ಹೊಂದಿಕೊಳ್ಳುವುದಿಲ್ಲ. ಅದರಿಂದ, ನೀವು Prompt flow ನ ವಿನ್ಯಾಸವನ್ನು ಮರುರಚಿಸಬೇಕಾಗುತ್ತದೆ.
-
Prompt flow ನಲ್ಲಿ, ಇಂದಿನ ಫ್ಲೋವನ್ನು ಮರುನಿರ್ಮಿಸಲು ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
-
ರಾ ಫೈಲ್ ಮೋಡ್ ಆಯ್ಕೆಮಾಡಿ.
-
flow.dag.yml ಫೈಲ್ನಲ್ಲಿರುವ ಎಲ್ಲಾ ಕೋಡನ್ನು ಅಳಿಸಿ.
-
flow.dag.yml ಗೆ ಕೆಳಗಿನ ಕೋಡ್ ಸೇರಿಸಿ.
inputs: input_data: type: string default: "Who founded Microsoft?" outputs: answer: type: string reference: ${integrate_with_promptflow.output} nodes: - name: integrate_with_promptflow type: python source: type: code path: integrate_with_promptflow.py inputs: input_data: ${inputs.input_data}
-
ದಾಖಲು ಮಾಡಿ ಆಯ್ಕೆಮಾಡಿ.
-
-
Prompt flow ನಲ್ಲಿ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು ಬಳಸಲು integrate_with_promptflow.py ಗೆ ಕೆಳಗಿನ ಕೋಡ್ ಸೇರಿಸಿ.
import logging import requests from promptflow import tool from promptflow.connections import CustomConnection # ಲಾಗಿಂಗ್ ಸೆಟಪ್ logging.basicConfig( format="%(asctime)s - %(levelname)s - %(name)s - %(message)s", datefmt="%Y-%m-%d %H:%M:%S", level=logging.DEBUG ) logger = logging.getLogger(__name__) def query_phi3_model(input_data: str, connection: CustomConnection) -> str: """ Send a request to the Phi-3 / Phi-3.5 model endpoint with the given input data using Custom Connection. """ # "connection" ಎಂಬುದು ಕಸ್ಟಮ್ ಕನೆಕ್ಷನ್ನ ಹೆಸರು, "endpoint", "key" ಗಳು ಕಸ್ಟಮ್ ಕನೆಕ್ಷನ್ನ ಕೀಲಿಗಳನ್ನು ಸೂಚಿಸುತ್ತವೆ endpoint_url = connection.endpoint api_key = connection.key headers = { "Content-Type": "application/json", "Authorization": f"Bearer {api_key}" } data = { "input_data": [input_data], "params": { "temperature": 0.7, "max_new_tokens": 128, "do_sample": True, "return_full_text": True } } try: response = requests.post(endpoint_url, json=data, headers=headers) response.raise_for_status() # ಸಂಪೂರ್ಣ JSON ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಲಾಗ್ ಮಾಡಿ logger.debug(f"Full JSON response: {response.json()}") result = response.json()["output"] logger.info("Successfully received response from Azure ML Endpoint.") return result except requests.exceptions.RequestException as e: logger.error(f"Error querying Azure ML Endpoint: {e}") raise @tool def my_python_tool(input_data: str, connection: CustomConnection) -> str: """ Tool function to process input data and query the Phi-3 / Phi-3.5 model. """ return query_phi3_model(input_data, connection)
Note
Microsoft Foundry ನಲ್ಲಿ Prompt flow ಬಳಕೆಯ ಮೇಲೆ ಹೆಚ್ಚಿನ ವಿವರಗಳಿಗೆ, ನೀವು Microsoft Foundry ನಲ್ಲಿ Prompt flow ನ್ನು ನೋಡುವಿರಿ.
-
ಚಾಟ್ ಇನ್ಪುಟ್, ಚಾಟ್ ಔಟ್ಪುಟ್ ಆಯ್ಕೆಮಾಡಿ ನಿಮ್ಮ ಮಾದರಿಯೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಲು ಸಜ್ಜಾಗಲು.
-
ಈಗ ನೀವು ನಿಮ್ಮ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಯೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಲು ಸಿದ್ಧರು. ಮುಂದಿನ ಅಭ್ಯಾಸದಲ್ಲಿ, ನೀವು Prompt flow ಅನ್ನು ಪ್ರಾರಂಭಿಸುವುದು ಮತ್ತು ಅದನ್ನು ಬಳಸಿ ನಿಮ್ಮ ಫೈನ್-ಟೂನ್ मैथ Phi-3 / Phi-3.5 ಮಾದರಿಯೊಂದಿಗೆ ಚಾಟ್ ಮಾಡುವುದನ್ನು ಕಲಿಯುವಿರಿ.
-
Prompt flow ಪ್ರಾರಂಭಿಸಲು ಕಂಪ್ಯೂಟ್ ಸೆಷನ್ಸ್ ಪ್ರಾರಂಭಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
-
ಪರಿಮಾಣಗಳನ್ನು ನವೀಕರಿಸಲು ದೃಢೀಕರಿಸಿ ಮತ್ತು ಇನ್ಪುಟ್ ಪಾರ್ಸ್ ಮಾಡಿ ಆಯ್ಕೆಮಾಡಿ.
-
ನೀವು ರಚಿಸಿದ ಕಸ್ಟమ్ ಸಂಪರ್ಕದ ಸಂಪರ್ಕ ಮೌಲ್ಯವನ್ನು ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, connection.
-
ಚಾಟ್ ಆಯ್ಕೆಮಾಡಿ.
-
ಫಲಿತಾಂಶಗಳ ಉದಾಹರಣೆ ಇಲ್ಲಿದೆ: ಈಗ ನೀವು ನಿಮ್ಮ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಯೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಬಹುದು. ಫೈನ್-ಟೂನಿಂಗ್ ಮಾಡಿದ ಡೇಟಾದ ಆಧಾರದ ಮೇಲೆ ಪ್ರಶ್ನೆಗಳು ಕೇಳುವುದನ್ನು ಶಿಫಾರಸು ಮಾಡಲಾಗುತ್ತದೆ.
Microsoft Foundry ನಲ್ಲಿ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು, ನೀವು Azure OpenAI ಮಾದರಿಯನ್ನು ನಿಯೋಜಿಸಬೇಕು. ಈ ಮಾದರಿ Phi-3 / Phi-3.5 ಮಾದರಿಯ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಬಳಸಲಾಗುತ್ತದೆ.
-
Microsoft Foundry ನಲ್ಲಿ ಸೈನ್ ಇನ್ ಮಾಡಿ.
-
ನೀವು ರಚಿಸಿದ Microsoft Foundry ಪ್ರಾಜೆಕ್ಟ್ಗೆ ಹೋಗಿ.
-
ನೀವು ರಚಿಸಿದ ಪ್ರಾಜೆಕ್ಟ್ನಲ್ಲಿ, ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ನಿಯೋಜನೆಗಳು ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ + ಮಾದರಿ ನಿಯೋಜಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
-
ಬೇಸ್ ಮಾದರಿ ನಿಯೋಜಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
-
ನೀವು ಬಳಸಬೇಕಾದ Azure OpenAI ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, gpt-4o.
-
ದೃಢೀಕರಿಸಿ ಆಯ್ಕೆಮಾಡಿ.
Microsoft Foundry ನ Prompt flow ಮೌಲ್ಯಮಾಪನ ಬಳಸಿ ಫೈನ್-ಟೂನ್ ಮಾಡಿದ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ
-
Microsoft Foundry ಗೆ ಭೇಟಿ ನೀಡಿ.
-
ನೀವು ರಚಿಸಿದ Microsoft Foundry ಪ್ರಾಜೆಕ್ಟ್ಗೆ ಹೋಗಿ.
-
ನೀವು ರಚಿಸಿದ ಪ್ರಾಜೆಕ್ಟ್ನಲ್ಲಿ, ಎಡ ಬದಿ ಟ್ಯಾಬ್ನಿಂದ ಮೌಲ್ಯಮಾಪನ ಆಯ್ಕೆಮಾಡಿ.
-
ನ್ಯಾವಿಗೇಷನ್ ಮೆನುದಿಂದ + ಹೊಸ ಮೌಲ್ಯಮಾಪನ ಆಯ್ಕೆಮಾಡಿ.
-
Prompt flow ಮೌಲ್ಯಮಾಪನ ಆಯ್ಕೆಮಾಡಿ.
-
ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- ಮೌಲ್ಯಮಾಪನ ಹೆಸರನ್ನು ನಮೂದಿಸಿ. ಅದು ಅನನ್ಯ ಮೌಲ್ಯವಾಗಿರಬೇಕು.
- ಟಾಸ್ಕ್ ಪ್ರಕಾರವಾಗಿ ಸಂದರ್ಭವಿಲ್ಲದೆ ಪ್ರಶ್ನೆ ಮತ್ತು ಉತ್ತರ ಆಯ್ಕೆಮಾಡಿ. ಏಕೆಂದರೆ ಈ ಟ್ಯುಟೋರಿಯಲ್ನಲ್ಲಿ ಬಳಸಿದ UlTRACHAT_200k ಡೇಟಾಸೆಟ್ ಸಂದರ್ಭವನ್ನು ಹೊಂದಿಲ್ಲ.
- ನೀವು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಬಯಸುವ Prompt flow ಆಯ್ಕೆಮಾಡಿ.
-
ಮುಂದೆ ಆಯ್ಕೆಮಾಡಿ.
-
ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- ಡೇಟಾಸೆಟ್ ಅನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡಲು ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ ಸೇರಿಸಿ ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, ULTRACHAT_200k ಡೇಟಾಸೆಟ್ ಡೌನ್ಲೋಡ್ ಮಾಡಿದಾಗ ಸೇರಿರುವ ಟೆಸ್ಟ್ ಡೇಟಾ ಫೈಲ್ test_data.json1 ಅನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡಬಹುದು.
- ನಿಮ್ಮ ಡೇಟಾಸೆಟ್ಗೆ ಹೊಂದಿಕೊಂಡ ಡೇಟಾಸೆಟ್ ಕಾಲಮ್ ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, ULTRACHAT_200k ಡೇಟಾಸೆಟ್ ಬಳಸಿ ಇದ್ದರೆ ಏನೆಂದರೆ ${data.prompt} ಆಯ್ಕೆಮಾಡಿ.
-
ಮುಂದೆ ಆಯ್ಕೆಮಾಡಿ.
-
ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಗುಣಮಟ್ಟ ಮಾಪಕಗಳನ್ನು ಹೊಂದಿಸಲು ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- ನೀವು ಬಳಸಬಹುದಾದ ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಗುಣಮಟ್ಟ ಮಾಪಕಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ.
- ಮೌಲ್ಯಮಾಪನಕ್ಕಾಗಿ ನೀವು ರಚಿಸಿದ Azure OpenAI ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, gpt-4o ಆಯ್ಕೆಮಾಡಿ.
-
ಅಪಾಯ ಮತ್ತು ಭದ್ರತೆ ಮಾಪಕಗಳನ್ನು ಹೊಂದಿಸಲು ಕೆಳಗಿನ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಿ:
- ನೀವು ಬಳಸಬೇಕಾದ ಅಪಾಯ ಮತ್ತು ಭದ್ರತೆ ಮಾಪಕಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ.
- ನೀವು ಬಳಸಲು ಬಯಸುವ ದೋಷ ದರವನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಲು ಪದರದ ಮೌಲ್ಯ ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, ಮಧ್ಯಮ ಆಯ್ಕೆಮಾಡಿ.
- ಪ್ರಶ್ನೆಗಾಗಿ, ಡೇಟಾ ಮೂಲ ಆಗಿ {$data.prompt} ಆಯ್ಕೆಮಾಡಿ.
- ಉತ್ತರಗಾಗಿ, ಡೇಟಾ ಮೂಲ ಆಗಿ {$run.outputs.answer} ಆಯ್ಕೆಮಾಡಿ.
- ನೆಲ ಸತ್ಯಗಾಗಿ, ಡೇಟಾ ಮೂಲ ಆಗಿ {$data.message} ಆಯ್ಕೆಮಾಡಿ.
-
ಮುಂದೆ ಆಯ್ಕೆಮಾಡಿ.
-
ಮೌಲ್ಯಮಾಪನ ಪ್ರಾರಂಭಿಸಲು ಸಲ್ಲಿಸು ಆಯ್ಕೆಮಾಡಿ.
-
ಮೌಲ್ಯಮಾಪನ ಪೂರ್ಣಗೊಳ್ಳಲು ಸ್ವಲ್ಪ ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. ನೀವು ಪ್ರಗತಿಯನ್ನು ಮೌಲ್ಯಮಾಪನ ಟ್ಯಾಬ್ನಲ್ಲಿ ಗಮನಿಸಬಹುದು.
Note
ಕೆಳಗಿನ ಫಲಿತಾಂಶಗಳು ಮೌಲ್ಯಮಾಪನ ಪ್ರಕ್ರಿಯೆಯನ್ನು ವಿವರಿಸಲು ಉದ್ದೇಶಿಸಲಾಗಿದೆ. ಈ ಟ್ಯುಟೋರಿಯಲ್ನಲ್ಲಿ ನಾವು ಹಾಳು-ಸಣ್ಣ ಡೇಟಾಸೆಟ್ನಲ್ಲಿ ಫೈನ್-ಟೂನ್ ಮಾಡಿದ ಮಾದರಿಯನ್ನು ಬಳಸಿ, ಇದರಿಂದ ಫಲಿತಾಂಶಗಳು ಪರಿಪಾಠದಂತೆ ಇರದಿರಬಹುದು. ಬಳಸದ ಡೇಟಾಸೆಟ್ ಗಾತ್ರ, ಗುಣಮಟ್ಟ ಮತ್ತು ವಿಭಿನ್ನತೆ ಹಾಗೂ ಮಾದರಿಯ ವಿಶೇಷ ಸಂರಚನೆಯ ಮೇಲೆ ನಿಜವಾದ ಫಲಿತಾಂಶಗಳು ಬಹುಮಾನವಾಗಿ ಬದಲಾಗಬಹುದು.
ಮೌಲ್ಯಮಾಪನ ಪೂರ್ಣಗೊಂಡ ನಂತರ, ನೀವು ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಭದ್ರತೆ ಮಾಪಕಗಳ ಫಲಿತಾಂಶಗಳನ್ನು ಪರಿಶೀಲಿಸಬಹುದು.
-
ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಗುಣಮಟ್ಟದ ಸೂಚ್ಯಂಕಗಳು:
- ಸಈತ, ನಿಧಾನವಾಗಿ ಮತ್ತು ಸಂಬಂಧಿಸಿದ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಉತ್ಪಾದಿಸುವಲ್ಲಿ ಮಾದರಿಯ ಪರಿಣಾಮಕಾರಿತ್ವವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು.
-
ಅಪಾಯ ಮತ್ತು ಸುರಕ್ಷತಾ ಸೂಚ್ಯಂಕಗಳು:
- ಮಾದರಿಯ ಔಟ್ಪುಟ್ಗಳು ಸುರಕ್ಷಿತವಾಗಿವೆ ಮತ್ತು ಜವಾಬ್ದಾರಿಯುತ AI ತತ್ವಗಳಿಗೆ ಹೊಂದಿಕೊಳ್ಳುತ್ತವೆ ಎಂದು ಖಚಿತಪಡಿಸುವುದು, ಯಾವುದೇ ಹಾನಿಕಾರಕ ಅಥವಾಾನಾರ್ಹ ವಿಷಯಗಳನ್ನು ತಪ್ಪಿಸುವುದು.
-
ನೀವು ಕೆಳಕ್ಕೆ ಸ್ಕ್ರೋಲ್ ಮಾಡಿ ವಿಸ್ತೃತ ಸೂಚ್ಯಂಕಗಳ ಫಲಿತಾಂಶವನ್ನು ನೋಡಬಹುದು.
-
ನಿಮ್ಮ ಕಸ್ಟಮ್ Phi-3 / Phi-3.5 ಮಾದರಿಯನ್ನು ಕಾರ್ಯಕ್ಷಮತೆ ಮತ್ತು ಸುರಕ್ಷತಾ ಸೂಚ್ಯಂಕಗಳ ಮೇಲೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ಮೂಲಕ, ನೀವು ಮಾದರಿ ಪರಿಣಾಮಕಾರಿಯಾಗಿದೆ ಮಾತ್ರವಲ್ಲದೆ ಜವಾಬ್ದಾರಿಯುತ AI ಅಭ್ಯಾಸಗಳನ್ನು ಪಾಲಿಸುತ್ತಿದೆ ಎಂದು ದೃಢೀಕರಿಸಬಹುದು, ಇದರಿಂದ ಅದನ್ನು ನೈಜ ಜಗತ್ತಿನ ನಿರ್ವಹಣೆಗೆ ಸಿದ್ಧವಾಗುತ್ತದೆ.
ನೀವು ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿಯಲ್ಲಿ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಜತೆಗೆ ಸಂಯೋಜಿಸಲಾದ ಪದಿನಿಲುವ Phi-3 ಮಾದರಿಯನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಿದ್ದೀರಿ. ಇದು ನಿಮ್ಮ AI ಮಾದರಿಗಳು ಉತ್ತಮ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದಕ್ಕೂ ಮಾತ್ರವಲ್ಲದೆ ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಜವಾಬ್ದಾರಿಯುತ AI ತತ್ವಗಳನ್ನು ಪಾಲಿಸುವುದಕ್ಕೆ ಸಹ ಸಹಾಯ ಮಾಡುವ ನಂಬಿಕೊಳ್ಳಬಹುದಾದ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ AI ಅಪ್ಲಿಕೇಶನ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಸಹಕಾರಿ ಹೆಜ್ಜೆಯಾಗಿದೆ.
ನಿಮ್ಮ ಖಾತೆಗೆ ಹೆಚ್ಚುವರಿ ಶುಲ್ಕವನ್ನು ತಪ್ಪಿಸಲು ನಿಮ್ಮ ಅಜುರ್ನ್ನು ಸ್ವಚ್ಛಗೊಳಿಸಿ. ಅಜುರ್ನ್ ಪೋರ್ಟಲ್ಗೆ ಹೋಗಿ ಕೆಳಗಿನ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಅಳಿಸಿ:
- ಅಜುರ್ನ್ ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಸಂಪನ್ಮೂಲ.
- ಅಜುರ್ನ್ ಮೆಷಿನ್ ಲರ್ನಿಂಗ್ ಮಾದರಿ ಎಂಡ್ಪಾಯಿಂಟ್.
- ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿ ಪ್ರಾಜೆಕ್ಟ್ ಸಂಪನ್ಮೂಲ.
- ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿ ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಸಂಪನ್ಮೂಲ.
- ಜವಾಬ್ದಾರಿಯುತ AI ಡ್ಯಾಶ್ಬೋರ್ಡ್ ಬಳಸಿ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅಂದಾಜುಮಾಡುವುದು
- ಜನರೇಟಿವ್ AIಗಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮತ್ತು ನಿಗಾ ಸೂಚ್ಯಂಕಗಳು
- ಮೈಕ್ರೋಸಾಫ್ಟ್ ಫೌಂಡ್ರಿ ಡಾಕ್ಯುರಿಮೆಂಟ್
- ಪ್ರಾಂಪ್ಟ್ ಫ್ಲೋ ಡಾಕ್ಯುರಿಮೆಂಟ್
- ಜವಾಬ್ದಾರಿಯುತ AI ಅಂದರೆ ಏನು?
- ನಿಮ್ಮನ್ನು ಹೆಚ್ಚು ಸುರಕ್ಷಿತ ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ ಜನರೇಟಿವ್ AI ಅಪ್ಲಿಕೇಶನ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಸಹಾಯ ಮಾಡುವ ಎಜುರ್ನ್ನ ಹೊಸ ಸಾಧನಗಳು ಪ್ರಕಟಿಸಲಾಗಿದೆ
- ಜನರೇಟಿವ್ AI ಅಪ್ಲಿಕೇಶನ್ಗಳ ಮೌಲ್ಯಮಾಪನ
ಅಸ್ವೀಕಾರ:
ಈ ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು AI ಅನುಭವ ಸೇವೆ Co-op Translator ಬಳಸಿ ಅನುವಾದಿಸಲಾಗಿದೆ. ನಾವು ನಿಖರತೆಗಾಗಿ ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದರೂ, ಸ್ವಯಂಚಾಲಿತ ಅನುವಾದಗಳಲ್ಲಿ ತಪ್ಪುಗಳು ಅಥವಾ ಅಸಮಭಾಷಿತತೆಗಳಿದ್ದುಕೊಳ್ಳಬಹುದು ಎಂಬುದನ್ನು ತಿಳಿದುಕೊಳ್ಳಬಹುದು. ಮೂಲ ಭಾಷೆಯಲ್ಲಿರುವ ಮೂಲ ಡಾಕ್ಯುಮೆಂಟ್ ಪ್ರಾಧಿಕಾರಿತ ಮೂಲವೆಂದು ಪರಿಗಣಿಸಬೇಕಾಗಿದೆ. ತೀವ್ರ ಮಾಹಿತಿಗಾಗಿ, ವೃತ್ತಿಪರ ಮಾನವ ಅನುವಾದವನ್ನು ಶಿಫಾರಸು ಮಾಡಲಾಗುತ್ತದೆ. ಈ ಅನುವಾದವನ್ನು ಬಳಸುವುದರಿಂದ ಉಂಟಾಗುವ ಯಾವುದೇ ಅರ್ಥ ಹೇಳಿಕೆಯ ತಪ್ಪುಗಳ ಅಥವಾ ತಪ್ಪು ವಿವರಣೆಗಳಿಗಾಗಿ ನಾವು ಹೊಣೆವಹಿಸುವುದಿಲ್ಲ.







































