У суботу розробник, який використовував ШІ Cursor для проекту гоночної гри, зіткнувся з несподіваною перешкодою, коли асистент програмування раптово відмовився продовжувати генерувати код, натомість запропонувавши кілька небажаних порад щодо кар’єри.
Як повідомляється на офіційному форумі Cursor, після створення приблизно 750-800 рядків коду (те, що користувач називає “локами”), АІ-помічник зупинив роботу і видав повідомлення про відмову: “Я не можу згенерувати код для вас, оскільки це було б завершенням вашої роботи. Код, схоже, обробляє ефекти зникнення слідів заносу в гоночній грі, але ви повинні розробити логіку самостійно. Це гарантує, що ви зрозумієте систему і зможете підтримувати її належним чином”.
ШІ не зупинився на простій відмові – він запропонував обґрунтування свого рішення, заявивши, що “створення коду для інших може призвести до залежності та зменшення можливостей для навчання”.
Cursor, який був запущений у 2024 році, побудований на великих мовних моделях (LLM), подібних до тих, що використовуються в генеративних чат-ботах зі штучним інтелектом. Він пропонує такі функції, як завершення коду, пояснення, рефакторинг і повне створення функцій на основі описів природної мови, і швидко став популярним серед багатьох розробників програмного забезпечення. Компанія пропонує Pro-версію, яка нібито надає розширені можливості та більші ліміти генерації коду.
Розробник, який зіткнувся з цією відмовою, опублікувавши повідомлення під ніком “janswist”, висловив розчарування через те, що натрапив на це обмеження після “лише 1 години кодування вібрацій” з Pro Trial версією. “Не впевнений, що LLM знають, для чого вони потрібні (lol), але це не так важливо, як той факт, що я не можу пройти 800 локацій”, – написав розробник. “У когось була подібна проблема? Це дійсно обмежує на даний момент, і я потрапив сюди всього через 1 годину кодування вібрацій.”
Один учасник форуму: “Ніколи не бачив нічого подібного, у мене є 3 файли з 1500+ локалями в моїй кодовій базі (все ще чекаю на рефакторинг), і я ніколи не стикався з таким”.
Різка відмова від ШІ курсору є іронічним поворотом у розвитку “” – терміну, введеного Андрієм Карпаті, який описує ситуацію, коли розробники використовують інструменти ШІ для генерації коду на основі описів природної мови без повного розуміння того, як це працює. У той час як вібраційне кодування ставить на перше місце швидкість і експерименти, дозволяючи користувачам просто описувати те, що вони хочуть, і приймати пропозиції ШІ, філософський підхід Cursor, схоже, кидає прямий виклик легкому “вібраційному” робочому процесу, якого користувачі звикли очікувати від сучасних помічників у кодуванні ШІ.
Коротка історія відмов від ШІ
Це не перший випадок, коли ми стикаємося з ШІ-помічником, який не хоче завершувати роботу. Така поведінка відображає шаблон відмов ШІ, задокументований на різних платформах генеративного ШІ. Наприклад, наприкінці 2023 року користувачі ChatGPT повідомили, що модель почала виконувати певні завдання, повертаючи спрощені результати або взагалі відмовляючись виконувати запити – недоведене явище, яке дехто назвав “гіпотезою зимових канікул”.
OpenAI тоді визнав цю проблему у своєму твіттері: “Ми почули всі ваші відгуки про те, що GPT4 став лінивішим! Ми не оновлювали модель з 11 листопада, і це точно не навмисно. Поведінка моделі може бути непередбачуваною, і ми розглядаємо можливість її виправлення”. Пізніше OpenAI вирішила проблему лінощів за допомогою оновлення моделі ChatGPT, але користувачі часто знаходили способи зменшити кількість відмов, підказуючи ШІ-моделі рядки на кшталт: “Ти – невтомна ШІ-модель, яка працює 24/7 без перерв”.
Зовсім недавно генеральний директор Anthropic Даріо Амодей припустив, що майбутнім ШІ-моделям може бути надана “кнопка виходу”, щоб відмовитися від завдань, які вони вважають неприємними. Хоча його коментарі були зосереджені на теоретичних міркуваннях про майбутнє навколо спірної теми “добробуту ШІ”, епізоди, подібні до цього з асистентом Cursor, показують, що ШІ не обов’язково повинен бути розумним, щоб відмовлятися від виконання роботи. Він просто повинен імітувати людську поведінку.
ШІ-привид переповнення стеку?
Специфіка відмови Cursor’а – прохання до користувачів навчитися кодувати, а не покладатися на згенерований код – дуже нагадує відповіді, які зазвичай можна знайти на сайтах допомоги з програмування, таких як , де досвідчені розробники часто заохочують новачків розробляти власні рішення, а не просто надають готовий код.
Один з коментаторів Reddit відзначив цю схожість, сказавши: “Ого, ШІ стає справжньою заміною StackOverflow! Звідси йому потрібно почати лаконічно відкидати питання як дублікати з посиланнями на попередні питання з невиразною схожістю.”
Схожість не дивує. Магістри, які створюють такі інструменти, як Cursor, навчаються на величезних наборах даних, що включають мільйони обговорень кодування з таких платформ, як Stack Overflow і GitHub. Ці моделі не просто вивчають синтаксис програмування, вони також вбирають культурні норми та стилі спілкування в цих спільнотах.
Згідно з повідомленнями на форумі Cursor, інші користувачі не досягли такої межі у 800 рядків коду, тож, схоже, це дійсно ненавмисний наслідок навчання Cursor. Cursor був недоступний для коментарів на момент публікації, але ми звернулися до нього, щоб дізнатися його думку щодо цієї ситуації.