<div dir="ltr"><div>> Based on the conversation that we had yesterday, my impression is that 
Krita might end up using Stable Diffusion's model (or something like 
that, it's not very clear to me).<br><br></div><div>With all due respect, it was *you* starting the conversation about generative AI (by alluding to it in CEHA). None of the currently suggested projects include Stable Diffusion. I think we should cross that bridge when we get there, and we haven't yet. Even if our users want Stable Diffusion, there is that Python plugin someone made, we don't need to do it just now.<br></div><div><br></div><div>I suggested a project that I believe is ethical and doesn't have the harmful traits you talk about. I think (though I still need to check it) that it would be useful as well. I believe we should do it if someone funds development for it (if not, we'd have some more pressing matters, but we're broke, and someone paying us to do useful things means that the revenue we get during that time can go to different things... like an emergency fund or travel fund or for more developers or raises. If it wasn't useful, or wasn't ethical, I'd have a different opinion).<br></div><div>To be extra clear, again: the lineart project would be based fully on the pictures that come from artists who agree for their pictures to be used that way, and won't do anything creative, it's supposed to merge several sketch lines together into a nice simplified sketch/lineart. I don't think it will harm millions of artists. I can argue with you on that particular topic. There is an article that I linked above, so the issue is very well defined.<br></div><div><br></div><div>I think that I realized that I *don't have* a fully developed, final opinion on the topic of generative AI (like Stable Diffusion) in general and I wouldn't want Krita to do anything about it just yet. Therefore right now I'm both against implementing generative AI in Krita in the near future, and against posting CEHA as our mission statement (I mean I guess I might agree with the sentiment behind it, but still need to figure too much stuff out, and I just don't want to support it yet, I'm sorry, I know you have good intentions). For now, I'd prefer to state opinions on a case-by-case basis.<br></div><div><br></div><div>I know, "let's not do anything", "I'd prefer us to wait" might sound a bit cowardly, but frankly, I just want to get more data on what its effects will be and how the world will look like in a few years. The generative AI stuff is still very new. I feel like making a decision right now would make it be based on my own fears or desires or hypotheses, instead of what it actually is and how harmful it actually is.<br></div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">wt., 20 lut 2024 o 22:57 Emmet O'Neill <<a href="mailto:emmetoneill.pdx@gmail.com">emmetoneill.pdx@gmail.com</a>> napisał(a):<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Hi Thorsten, sorry for the late reply. <br></div><div><br></div><div>I avoid looking at Krita stuff during the weekends if possible and since we had a long discussion about this stuff yesterday morning I was a bit spent.<br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Drawing used to be my hobby (still is to a lesser extent). Now it’s<br>
part of the toolbox that I earn money with. Because of this, I am<br>
somewhat torn, but can’t afford ideology over pragmatism.<br></blockquote><div><br></div><div> Understandable. <br></div><div><br></div><div>That said, ignoring what is ethical, sustainable and healthy for society is a dark path that we also can't afford to go down, in my opinion.<br></div><div>There are a lot of bad ways (via exploitation of technology and/or people) that society could <i>optimize for money</i> <i>in the short term</i> by choosing not to care about anything else.</div><div>In other words, <i>the path of least resistance to the highest financial return isn't always the best path</i>.</div><div><br></div><div>Without getting into anything too heavy, we know that from history, so we might as well at least try to learn something from it.<br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">But I do see a parallel between a human learning from the work of others and ML training.</blockquote><div><br></div><div>The reason you see a parallel between <i>human learning</i> and <i>machine learning </i>is because of marketing.</div><div><br></div><div>Human beings clearly don't function like an "AI" does; </div><div>we have agency to seek out our own desires, </div><div>every waking moment our senses are bombarded with unique experiences that shape us, </div><div>we have a limited capacity to produce, </div><div>we have our own creative x-factor, </div><div>and maybe most importantly of all, <i>we aren't property</i>.<br></div><div><br></div><div>I'd argue that the companies that currently dominate the "AI" business want to conflate these things, specifically because it evokes science fiction, drives hype, and muddies the water around copyright.</div><div>A camera or microphone could be marketed as technology which sees and 
hears just like a human does (and there would be some truth to that) but
 that doesn't dismiss the ethical questions surrounding how those tools 
might be used.</div><div><br></div><div>Anyway, If we <i>are</i> going to start personifying "AI", then doesn't logic suggest that the output should be the intellectual property of the AI itself, and not the person prompting it or the company that "owns" it. <br></div><div>This all seems like an example of "wanting to have your cake and eat it too" around "AI".  Either the "AI" is the artist or it isn't. </div><div><br></div><div>So where do we come in? If you don't own the meat, and you don't own the meat grinder, then how can you claim to own the sausage?<br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">It is not the same as<br>
flat out copyright infringement (unless a work is actually reproduced),<br>
though it could be judged a different kind of infringement.</blockquote><div><br></div><div>I think that remains to be seen, and I'm not really in a position to argue it anyway. </div><div>I personally do not see AI training as "fair use", but I'll let the highly paid lawyers and judges figure that one out.  <br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Now if the forces in favor of banning this kind of use succeed, the<br>
likely outcome is that there will be nothing like Stable Diffusion any<br>
more, free, available to everyone. There will still be commercial<br>
generators from the few big corporations that can afford large content<br>
libraries. It could well make it impossible to work on a professional<br>
level with Libre Software tools (for all but a selected few with the<br>
most discerning clients).</blockquote><div><br></div><div>We aren't in a position to ban anything, only to moderate our own actions by what we and the community think is right.<br></div><div><br></div><div>I simply don't want Krita to become yet another tool that maybe helps one artist by hurting thousands (or even millions, or really some unknownable number).</div><div><br></div><div>Based on the conversation that we had yesterday, my impression is that Krita might end up using Stable Diffusion's model (or something like that, it's not very clear to me).</div><div>I have a couple of open questions about that:</div><div><ol><li> If Krita was to use another company's pre-trained (I assume as an opaque, black box trained on data that is totally unknown to us) model to implement various features, what would happen if that binary blob model was eventually monetized in some way?<br></li><li>If we wouldn't be comfortable scraping millions of copyrighted images from all over the internet ourselves, then why should we be comfortable using someone else's model that has trained that way?</li></ol><div>Finally, the implication here that it is only possible to "work on a professional level" by using exploitative "AI" tools, hints at the magnitude of the ethical problems around this technology: It exists purely as a shortcut to money--not for you but for the keepers of the dataset.</div><div>The idea seems to be to create more content with less money. Paying less money to human artists in the future by technologically exploiting the artwork of the past.</div><div><br></div><div>Nevermind the fundamental idea of supply and demand, which says that "<a href="https://www.imf.org/en/Publications/fandd/issues/Series/Back-to-Basics/Supply-and-Demand" target="_blank">In any market transaction between a seller and a buyer, the price of the good or service is determined by supply and demand in a market</a>". <br></div><div>Let's imagine that generative "AI" can produce an <i>infinite supply</i> of high-quality artwork and "content", do you believe that <i>demand can scale infinitely</i> too? <br></div><div><br></div><div>Even putting the <i>artistic merits</i> of "AI" art aside, I don't see any way in which this path leads to anything resembling economic sustainability for artists--even though it's their own damn artwork that has made any of this technology possible.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Regarding the CEHA, on the side of to be expected actual outcomes, I<br>
don’t see anything empowering here. Only that Krita will be a less<br>
capable tool.</blockquote><div><br></div><div>If the goal is to merely produce an image fitting a description as quickly as possible, consequences be damned, then Krita is already "less capable" than generative AI. <br></div><div><br></div><div>If the goal is to help humans develop skills and create unique and expressive works of art, then I think we should continue to find every ethical and sustainable way of doing that.</div><br><div>I feel as if there is <i>a lot of hand-wringing from proponents of "AI" around the simple question of "ok, cool, but can it be done ethically with consent or permissive licensing?", which maybe implies that it cannot</i>...</div><div><br></div><div><div>Anyway, sorry if I seem a bit jaded, but I've had a lot of permutations of this discussion over the last year.</div></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Feb 16, 2024 at 1:07 AM Thorsten Wilms <<a href="mailto:t_w_@freenet.de" target="_blank">t_w_@freenet.de</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On Thu, 15 Feb 2024 20:36:45 -0800<br>
<br>
> <a href="https://invent.kde.org/graphics/krita/-/merge_requests/2071" rel="noreferrer" target="_blank">https://invent.kde.org/graphics/krita/-/merge_requests/2071</a><br>
<br>
Hi!<br>
<br>
To add a different perspective, if I may:<br>
<br>
Drawing used to be my hobby (still is to a lesser extent). Now it’s<br>
part of the toolbox that I earn money with. Because of this, I am<br>
somewhat torn, but can’t afford ideology over pragmatism.<br>
<br>
I am not happy about the devaluation (both senses) of art due to the<br>
arrival of ML image generators. But I do see a parallel between a human<br>
learning from the work of others and ML training. It is not the same as<br>
flat out copyright infringement (unless a work is actually reproduced),<br>
though it could be judged a different kind of infringement.<br>
<br>
Now if the forces in favor of banning this kind of use succeed, the<br>
likely outcome is that there will be nothing like Stable Diffusion any<br>
more, free, available to everyone. There will still be commercial<br>
generators from the few big corporations that can afford large content<br>
libraries. It could well make it impossible to work on a professional<br>
level with Libre Software tools (for all but a selected few with the<br>
most discerning clients).<br>
<br>
Regarding the CEHA, on the side of to be expected actual outcomes, I<br>
don’t see anything empowering here. Only that Krita will be a less<br>
capable tool.<br>
<br>
<br>
-- <br>
Thorsten Wilms <<a href="mailto:t_w_@freenet.de" target="_blank">t_w_@freenet.de</a>><br>
</blockquote></div>
</blockquote></div>