Συμβατικοί όροι
Οι συμβάσεις προσδιορίζουν με σαφήνεια τις υποχρεώσεις των συμβαλλομένων καθ' όλη τη διάρκεια λειτουργίας του συστήματος. Ιδιαίτερη σημασία έχουν οι προβλέψεις για μεταβολές μοντέλων, παρακολούθηση επιδόσεων, διαχείριση συμβάντων και δυνατότητα ελέγχου.
| Αντικείμενο | Προτεινόμενη συμβατική πρόβλεψη |
|---|---|
| Επίπεδο υπηρεσιών (SLA) | Διαθεσιμότητα, χρόνοι απόκρισης και τεχνική υποστήριξη |
| Επιδόσεις συστήματος | Κριτήρια αποδοχής και διατήρησης της απαιτούμενης απόδοσης |
| Τεχνική τεκμηρίωση | Παράδοση και επικαιροποίηση απαιτούμενων εγγράφων |
| Καταγραφή ενεργειών | Δυνατότητες logging και ιχνηλασιμότητας |
| Δικαίωμα ελέγχου | Κατάλληλοι έλεγχοι και πρόσβαση στην αναγκαία τεκμηρίωση |
| Διαχείριση αλλαγών | Διαδικασίες έγκρισης αναβαθμίσεων ή αλλαγών μοντέλων |
| Διαχείριση περιστατικών | Χρόνοι ενημέρωσης, απόκρισης και αποκατάστασης |
| Δεδομένα | Δικαιώματα πρόσβασης, χρήσης, διατήρησης, επιστροφής και διαγραφής |
| Λήξη σύμβασης | Παράδοση δεδομένων, τεκμηρίωσης και σχέδιο μετάβασης σε άλλη λύση |
Κίνδυνοι που πρέπει να προβλέπονται
Data poisoning
Αλλοίωση των δεδομένων εκπαίδευσης.
Prompt injection
Κακόβουλες οδηγίες προς συστήματα παραγωγικής ΤΝ.
Adversarial manipulation
Σκόπιμα παραπλανητικά δεδομένα εισόδου.
Model drift
Μεταβολή των επιδόσεων με την πάροδο του χρόνου.
Model extraction / theft
Υποκλοπή πληροφοριών ή αντιγραφή του μοντέλου χωρίς άδεια.
Οι συμβάσεις προβλέπουν κατάλληλες διαδικασίες πρόληψης, εντοπισμού και αντιμετώπισης των σχετικών κινδύνων.