生成人工知能や対話型人工知能が、報道を賑わしています。
いくつかの要素を入れると、それに沿って文章を書いたり、応答してくれるとのこと。それが、かなりの水準に達したのです。学校での作文の宿題や試験に、本人に代わって答えを書いてくれます。大学でも、論文を代筆してくれます。

その開発を止めたり、規制してはどうかといった議論も、出ています。でも、開発は止まらないでしょう。人間は便利なものは、使いたくなります。
「電卓を禁止しろ」とは言わないでしょう。ただし、数学の試験には持ち込みが禁止されます。便利になることと、試験や宿題に利用しないこととは、別問題です。
代筆なら、人工知能に頼らなくても、大学入試で学外の人に作ってもらい、携帯電話で送ってもらう事件が出ています。作文や論文の代筆は、しばしばあるようです。

作文にしろ答案にしろ、「いくつかの要素を入れて文章を作れ」という条件なら、いずれコンピュータが書いてくれるようになるでしょう。学生が教科書を学んで、それらの知識から文章を作るのと同じ作業ですから。外国語の翻訳も同じです。よく似た構文を選び、訳語の中から適切なものを選べばよいのです。この点では、かなり進んでいるようです。

役所でもよく作られる上司の挨拶文、「本日ここに××が開催されるに当たり、一言お祝いの言葉を述べます・・・」などは、人工知能に任せるのがよいですね。あれほど、聞いていて、あほらしい文章はありません。
結婚披露宴の祝辞も同じです。そして、機械がつくってくれる祝辞は似たり寄ったりになって、面白くないでしょうね。話者の体験談や、新郎新婦との関係といった、機械が知らない話を入れることが、受ける話のコツですから。